"Я здесь скажу это впервые". Почему ушел из OpenAI, зачем звонил Альтман, Суцкевер, AGI, Anthropic

Павел Измаилов ю — исследователь искусственного интеллекта, профессор Нью-Йоркского университета и научный сотрудник Anthropic. Ранее в OpenAI он участвовал в создании моделей o1, способных решать сложные задачи с помощью рассуждений и работал в команде Superalignment вместе с сооснователем OpenAI Ильей Суцкевером над безопасностью сверхразумного ИИ. Он также участвовал в разработке Claude 3.7 Sonnet и Claude 4 и стал соавтором исследования, отмеченного наградой Outstanding Paper Award на конференции ICML 2022. 00:00 — Вступление: вопрос чат-боту о создателях и эмоциях 02:27 — Есть ли у моделей чувства и как работает обучение с подкреплением (RLHF) 04:14 — Почему нейросети — «чёрный ящик», который мы скорее выращиваем, чем собираем 07:26 — Векторы эмоций: исследование Anthropic о внутренних реакциях моделей 13:35 — Когда пришло осознание прорыва: путь от GPT-2 до модели o1 с рассуждениями 16:49 — Безопасность ИИ vs развитие технологий: возможная польза для медицины и науки 20:44 — Как устроен рабочий день исследователя в лаборатории 22:07 — Работа с Ильёй Суцкевером и проект Weak-to-Strong Generalization 24:18 — Внутренний кризис в OpenAI: увольнение и возвращение Сэма Альтмана 27:22 — Отношения с Ильёй Суцкевером 28:45 — Эксклюзив: реальная причина увольнения из OpenAI и звонок Альтмана 32:14 — Переход в Anthropic: собеседование с Дарио Амодеи и разработка Claude 35:52 — Проблема галлюцинаций моделей: можно ли их устранить полностью 37:39 — Что такое суперинтеллект (AGI) и когда мы его заметим 41:03 — Рекурсивное самоулучшение (RSI) и гипотеза технологической сингулярности 43:14 — Возможна ли «цепная реакция» и потеря контроля над ИИ 45:34 — Социальные риски, угрозы злоупотребления и открытые модели 48:48 — Гонка технологий: США против Китая 51:26 — Привязанность человека к ИИ, тест Тьюринга и сознание машин 57:29 — Влияние научной фантастики на поведение моделей 01:00:44 — Прогнозы на 10 лет вперёд: барьеры масштабирования 01:04:44 — Конкуренция гигантов: OpenAI, Anthropic и Google 01:06:42 — Лаборатория в NYU и планы на будущее Станьте спонсором канала:    / @i_gryanul_grem   Также поддержать общество "Грэм" можно: https://buymeacoffee.com/igranulgrem PayPal: https://www.paypal.com/donate/?hosted... Patreon:   / igranulgrem   ======================================================== Почта для писем, жалоб, пожеланий и рекламных предложений: igremcom@gmail.com Instagram:   / granul_grem   Telegram: https://t.me/gremtelegram