ИИ «выращивают» или создают? Анализ 2-й главы книги «Если кто-то его построит, все умрут»

Это третье видео в этом плейлисте:    • If Anyone Analyzes It... Everyone Dies   Модели ИИ «выращиваются» как урожай или проектируются как программное обеспечение? И почему авторы, пишущие о безопасности ИИ, так одержимы изображением LLM как странных, непредсказуемых инопланетных разумов? В этом видео мы продолжаем наш поглавный разбор книги «Если кто-то это построит, все умрут», анализируя главу 2. Мы проверяем на практике их провокационную аналогию «Выращивается, а не создается», распутываем сложную диалектику автозаполнения LLM против «истинного понимания» и рассматриваем печально известный инцидент, когда Bing Chat якобы угрожал профессору философии. Хотя здесь и скрыт незначительный, но обоснованный тезис — что современные модели глубокого обучения слишком сложны для того, чтобы человек мог предсказать их в каждом сценарии, — более широкие утверждения о предпочтениях ИИ и «инопланетных разумах» крайне слабо обоснованы и основаны на тонких логических скачках. РЕСУРСЫ И ИСТОЧНИКИ: • Статья Чаухана и Гейгера (2024): https://openreview.net/pdf?id=6gvM1koUTl • Постер Сонакши и Гейгера: https://neurips.cc/media/PosterPDFs/N... • Агасси о «языковом рассказе» Беккера:    • Видео   • Эффект Элизы: https://en.wikipedia.org/wiki/ELIZA_e... • Парейдолия: https://en.wikipedia.org/wiki/Pareidolia • Разбор противостояния Адама Данна и Тони Гвинна: https://bleacherreport.com/articles/4... Если вам нравится благотворительный философский анализ литературы о рисках ИИ, обязательно ставьте лайки, подписывайтесь и делитесь! Оставляйте свои мысли в комментариях ниже — я читаю каждый из них.