Следующая глава ИИ — внутри нашего программного обеспечения

Эрик Торенберг беседует с генеральным директором Box Аароном Леви, а также Мартином Касадо и Стивеном Синофски из a16z о том, как индустрия ИИ должна подходить к вопросам безопасности, защиты и регулирования по мере того, как все более совершенные агенты проникают в реальный мир. Они утверждают, что большая часть сегодняшних дискуссий происходит до того, как мы четко определили риски, которые пытаемся регулировать. Опираясь на более ранние волны развития вычислительной техники, от компьютерных вирусов и раннего интернета до авиации и автомобилестроения, они задаются вопросом, чему ИИ может научиться у отраслей, которые разработали стандарты безопасности только после того, как поняли, как именно их технологии потерпели неудачу. Затем разговор переходит к конкретным вопросам: агенты не устают, могут работать в огромных масштабах и могут исследовать системы способами, недоступными для сотрудников-людей. Это может потребовать переосмысления разрешений, аутентификации, операционных систем и самой системы безопасности. Они также обсуждают, почему инновации в области ИИ могут все чаще выходить за пределы передовых лабораторий и переходить в программное обеспечение, созданное на основе этих моделей. Временные метки: 00:00 - Вступление 00:50 - На передовой: Реакция на дискуссию о безопасности ИИ 03:50 - Разговоры о вымирании видов: Действительно ли лаборатории верят в собственную риторику? 06:49 - Вопрос национализации и чья на самом деле безопасность труда 11:32 - Дэвид Сакс против правительства: «Вы просите нас регулировать что?» 12:08 - 2028 год как выборы ИИ 28:39 - Почему кибербезопасность исторически отвергала практические решения 32:30 - Самый безумный тайный канал, который когда-либо видели 48:38 - LLM как системы принятия решений против чат-ботов 53:01 - Почему лаборатории этого не создали: мышление «существо против инструмента» Ресурсы: Подпишитесь на Аарона Леви на X: https://x.com/levie Подпишитесь на Мартина Касадо на X: https://x.com/martin_casado Подпишитесь на Стивена Синофски на X: https://x.com/stevesi Будьте в курсе: Если вам понравился этот эпизод, обязательно поставьте лайк, подпишитесь и поделитесь с друзьями! Найдите a16z на X:   / a16z   Найдите a16z на LinkedIn:   / a16z   Слушайте шоу a16z на Spotify: https://open.spotify.com/show/5bC65RD... Слушайте шоу a16z на Apple Podcasts: https://podcasts.apple.com/us/podcast... Подпишитесь на нашего ведущего: https://x.com/eriktorenberg Обратите внимание, что представленная здесь информация носит исключительно ознакомительный характер; она НЕ должна рассматриваться как юридическая, деловая, налоговая или инвестиционная консультация, а также не должна использоваться для оценки каких-либо инвестиций или ценных бумаг; и не предназначена для инвесторов или потенциальных инвесторов в какие-либо фонды a16z. a16z и ее аффилированные лица могут иметь инвестиции в обсуждаемые компании. Более подробную информацию можно найти по ссылке: http://a16z.com/disclosures.