Аргументы в пользу суперинтеллекта удивительно слабы | Если кто-то это создаст... Глава 1

Первое видео из серии здесь:    • An Honest Breakdown of Eliezer Yudkowsky's...   Что делает людей такими могущественными? По мнению Элиэзера Юдковски и Нейта Соареса в книге «Если кто-то это построит, все умрут», ответ — интеллект, а интеллект, по сути, заключается в предсказании мира и управлении им. В этом эпизоде ​​«Онтологии в объяснениях» я критически рассматриваю вступительный аргумент книги. Я согласен с основной идеей о том, что человеческий интеллект сыграл важную роль в нашем необычайном влиянии на планету. Но я думаю, что книга слишком быстро переходит к некоторым очень сложным вопросам. Что на самом деле делает людей особенными? Что такое интеллект? Действительно ли предсказание — это половина интеллекта, а управление — другая? И почему мы должны быть так уверены, что ИИ неизбежно превзойдет человеческий интеллект? Я рассмотрю краткую историю о доминировании человека в книге, ее концепцию интеллекта как предсказания и управления, философскую альтернативу убеждений и желаний, а также аргументы в пользу того, почему ИИ в конечном итоге затмит человечество. Моя главная обеспокоенность не в том, что выводы книги явно неверны. Проблема в том, что некоторые из её важнейших предпосылок удивительно слабо разработаны. В ней практически отсутствует взаимодействие с антропологией, философией сознания или существующей философской литературой по таким понятиям, как вера, желание и направление соответствия. И это проблема, потому что возможность сверхинтеллектуального ИИ играет важную роль в аргументации. Если сверхинтеллект действительно правдоподобен, то его потенциальные последствия заслуживают очень серьёзного внимания. Но нам нужен более веский аргумент в пользу того, почему мы должны верить в его появление. Это моя продолжающаяся серия обзоров и критики книги «Если кто-то это построит, все умрут» (If Anyone Builds It, Everyone Die). Я продолжу работу над главой 2 — но с некоторым скептицизмом по поводу основ, заложенных в главе 1. Согласны ли вы с моей оценкой? Дайте мне знать в комментариях. #AI #ArtificialIntelligence #Philosophy #Superintelligence #AIAlignment