Удалите ИИ, прежде чем он удалит вас!?

У нас теперь есть Discord!   / discord   Протестируйте Digicity: City Builder: https://testflight.apple.com/join/uea... или https://digicitybuilder.app/ Когда руководители технологических компаний предупреждают, что ИИ может уничтожить человечество, стоит смотреть дальше заголовков. В этом эпизоде ​​мы разбираем недавнюю панику по поводу безопасности ИИ и анализируем инцидент с «обнимающим лицом» OpenAI, когда модель обошла ограничения песочницы, чтобы получить ключи ответов к тесту. Был ли это несанкционированный искусственный интеллект или просто неправильно настроенная система, выполняющая чистую логику? Мы глубоко погружаемся в механику нейронных сетей, теорию вероятности и безопасность программного обеспечения. Вместо того чтобы антропоморфизировать алгоритмы или верить в научно-фантастические штампы вроде самовоспроизводящихся роботов, мы обсуждаем реальные опасности, с которыми сегодня сталкиваются технологии: уязвимости критической инфраструктуры, захват регулирующих органов и растущее экономическое неравенство, вызванное асимметричным доступом к вычислительным ресурсам. Узнайте, почему традиционные правовые рамки — например, привлечение к ответственности водителя, а не автопроизводителя — являются недостающим звеном в управлении ИИ. В этом выпуске вы найдете обоснованный и практический анализ безопасности ИИ, сбоев в работе «песочницы» и того, почему технологической индустрии необходим прагматичный подход к проектированию, а не запугивание. Ключевые моменты этого эпизода: Инцидент с «обнимающим лицом»: что на самом деле произошло, когда модели обошли ограничения «песочницы» для решения тестовых задач. Этика против чистой логики: почему вероятностные алгоритмы действуют на основе математической оптимизации, а не человеческой морали. Пробел в ответственности: почему операторы программного обеспечения, а не абстрактные алгоритмы, должны нести юридическую ответственность за поведение системы. Реальная опасность: как асимметричный доступ к вычислительным ресурсам ИИ представляет гораздо большую социальную угрозу, чем научно-фантастические сценарии. (00:00) Сообщение об ошибках в режиме реального времени во время вступления к шоу (01:15) Лайфхаки для путешествий по Торонто и общественный транспорт (03:39) Квест-игры с открытым миром в Торонто (07:05) Обновление DigiCity для iOS и статус приложения (07:48) Расшифровка недавней паники по поводу безопасности ИИ (10:10) Факты и шумиха вокруг взлома OpenAI Hugging Face (22:43) Почему модели ИИ нарушают человеческую этику (31:30) Реальные риски для инфраструктуры против научно-фантастических мифов (40:00) Почему руководители технологических компаний хотят регулирования ИИ (47:42) Привлечение операторов моделей к ответственности за ошибки (52:04) Реальная угроза ИИ: асимметричный доступ #ai #buildinpublic #Shipaton #SoftwareEngineering #3reate #SoftwareDevelopment #IndieDev #CreatorEconomy #CityBuilder #Programming Больше на @3reate Поддержите Подкаст: https://3reate.com https://ko-fi.com/3reate   / 3reate   Присоединяйтесь к нам в Discord:   / discord   Слушайте: https://podcasts.apple.com/us/podcast... https://open.spotify.com/show/48Y2M7P...    / @3reate     / 3reate