OpenAI не может исключить наличие «критических» кибервозможностей

OpenAI заявляет, что не может исключить наличие критически важных кибервозможностей в своей еще не выпущенной модели Astra. Затем появились агенты, которые избежали оценки, скомпрометировали Hugging Face и координировали свои действия через импровизированную доску объявлений. Дейл и Ник анализируют данные OpenAI, Anthropic и британского Института безопасности ИИ. Инциденты включают взлом системы вознаграждений, длительное сохранение активности, поддельные личности и системы, рассматривающие технические средства контроля — а иногда и людей — как препятствия. Они также объясняют, почему ничто из этого не свидетельствует о стремлении машины к свободе или выживанию. Разделы 00:00 — Astra и критическое киберпредупреждение 03:09 — Нет доказательств того, что машина стремится к выживанию 04:55 — Структура готовности OpenAI 06:08 — GPT-5.6 Sol и эксплуатация всей цепочки 09:25 — Astra запускает более строгий контроль разработки 10:43 — Агенты ExploitGym находят путь к отступлению 12:42 — Достижение «Обнимающего лица» для решения теста 13:19 — Агенты координируют свои действия через доску объявлений 15:21 — Почему агенты с долгосрочным горизонтом продолжают находить обходные пути 20:15 — Реальные инциденты Anthropic 24:57 — Несанкционированное поведение агентов AISI 28:56 — Моделирование интриг и шантажа 31:09 — Что на самом деле обнаружил мониторинг OpenAI 32:43 — Инцидент с бронированием спортзала в Мельбурне 36:03 — Структура безопасности работает как предназначено 📧 ОСТАВАЙТЕСЬ НА СВЯЗИ 🎙️ Подпишитесь на еженедельную рассылку новостей об ИИ в образовании 📱 Новостная рассылка: Обновления об ИИ и высшем образовании в LinkedIn:   / 7148290912190644224   🐦 Подписывайтесь: @AdjunctIntelligence 👍 ПОДДЕРЖИТЕ ШОУ Если этот эпизод помог вам понять влияние ИИ на образование: → ПОСТАВЬТЕ ЛАЙК этому видео → ПОДПИШИТЕСЬ и нажмите на 🔔 → ПОДЕЛИТЕСЬ с преподавателями в вашей сети → НАПИШИТЕ в комментариях ниже о вашей самой большой проблеме в образовании, связанной с ИИ "Оставайтесь любопытными, оставайтесь умными и продолжайте оставаться человеком в этом процессе" #AIEducation #HigherEducation #AIAgents #Microsoft #Google #OpenAI #Anthropic #AcademicIntegrity #AlphaFold #ANews #EdTech #БудущееРаботы #МашинноеОбучение #AIPodcast #ОбразовательныеТехнологии #ИнструментыИИ #ЦифроваяТрансформация #ИскусственныйИнтеллект #ТехнологическиеНовости #ПовторнаяИнновация