ИИ взломает банк, а офисы опустеют за 3 года? Учёный из лаборатории ВШЭ об ИИ и российской науке

Можно ли защитить ИИ-агента от взлома? Как относятся в передовой науке к перспективам ИИ? Что будет с рынком труда? Одно письмо с правильно составленным текстом, и бот, который разбирает вашу почту, отдаёт чужие письма. Такие атаки уже были. В первом выпуске подкаста говорим с Эмилем Сатаевым. Он прошёл путь от микроэлектроники до больших языковых моделей: — бывший сотрудник лаборатории анализа больших данных ФКН ВШЭ: дообучение LLM, пайплайны, научные публикации; — работал в Сингапуре, в институте нобелевского лауреата по физике: симуляции на суперкомпьютере для статьи, где ИИ предсказывает свойства материалов, которых ещё не существует; — сейчас программист, преподаёт генеративные модели и вёл курс по ИИ-агентам. Без хайпа и пересказа новостей: что на самом деле происходит в ИИ, науке и российской микроэлектронике глазами человека изнутри. В выпуске: почему от промпт-инъекций нельзя защититься в принципе и как студент взломал «супер-защищённого» агента; почему нобелевский лауреат считает, что будущее физики за ИИ, и что такое «физика с чёрным ящиком»; какие профессии ИИ заменит первыми, а какие пока в безопасности; сколько на самом деле получают инженеры-микроэлектронщики в Москве; почему вкладываться в кремний на горизонте 5–10 лет значит потерять деньги и где у России ещё есть шанс. Ключевые идеи сопровождаются анимациями, чтобы было понятно даже без технического бэкграунда. ⏱ Таймкоды 0:00 Кто такой Эмиль: ВШЭ, Сингапур, LLM 1:48 ВШЭ vs МИЭТ и учёные-преподаватели 3:20 Из физики — в языковые модели 4:31 Первый проект: ИИ, который создаёт ИИ 7:51 Можно ли соревноваться с корпорациями 9:51 Опасения: агенты, взломы, рабочие места 10:23 Как ограничить риски ИИ 13:02 Лаборатория в Сингапуре и Новосёлов 15:00 ИИ и «физика с чёрным ящиком» 17:12 Интеллект или перемножение матриц 18:20 Промпт-инъекции: почему защиты нет 22:51 Какие профессии заменит ИИ 28:06 Российская микроэлектроника 31:11 Судьба выпускников и зарплаты 33:37 Стоит ли вкладываться в микроэлектронику 34:35 Фотоника как альтернатива 39:26 Государство и фотоника 40:37 Сценарий: фотонные чипы для ИИ 43:34 Финал ▶️ Вторая часть — разбор фотоники: реальные проблемы, оптические нейросети, «Микрон» и квантовые вычисления: скоро будет 💬 Напишите в комментариях, отдали бы вы ИИ-агенту доступ к своей почте после этого выпуска? 🔔 Подписывайтесь: здесь разговоры с настоящими специалистами из ключевых отраслей — инсайды, острые темы и разборы проблем российской науки и технологий. Расширенные версии и эксклюзивы — на Boosty: [ссылка] Мнения гостя — его личная позиция и не являются позицией канала. #ИИ #нейросети #промптинъекции #микроэлектроника #фотоника #наука #LLM #подкаст