Я руковожу командой Google DeepMind в 26 лет. Если хотите работать в сфере ИИ... | Нил Нанда (Час...

ЧАСТЬ 1 — подробное обновление информации о механистической интерпретируемости:    • We Can Monitor AI’s Thoughts… For Now | Go...   В свои 26 лет Нил Нанда возглавляет команду по безопасности ИИ в Google DeepMind, опубликовал десятки влиятельных статей и был наставником 50 молодых исследователей, семь из которых сейчас работают в крупных компаниях, занимающихся ИИ. Его секрет? «В основном это удача», — говорит он, — «но еще одна составляющая — это то, что я считаю максимизацией своей поверхности удачи». Это означает создание как можно большего количества возможностей для неожиданно хороших событий: пишите публично. Обращайтесь к исследователям, чья работа вам нравится. Соглашайтесь на необычные проекты, которые кажутся немного пугающими. Собственный путь Нанды прекрасно это иллюстрирует. Он начал челлендж — писать по одной записи в блоге в день в течение месяца, чтобы преодолеть паралич перфекционизма. Эти записи помогли заложить основы области механистической интерпретируемости и, попутно, привели к знакомству с его партнером, с которым он вместе уже четыре года. На его YouTube-канале (   / @neelnanda2469  ) представлены трехчасовые видеоролики без монтажа, где он читает известные научные статьи и делится своими мыслями. Один из них набрал 30 000 просмотров. «Людям это понравилось», — пожимает он плечами. Что особенно примечательно, в итоге он возглавил команду DeepMind по механистической интерпретируемости. Он пришел, рассчитывая стать рядовым сотрудником, но когда руководитель команды ушел, он занял его место, несмотря на отсутствие управленческого опыта. «Я не знал, получится ли у меня это. Думаю, все прошло довольно неплохо». Его главный урок: «Просто делай». Это звучит банально, но все же полезное напоминание. Умение делать что-то — это навык, который совершенствуется с практикой. Большинство людей переоценивают риски и недооценивают свою способность восстанавливаться после неудач. Как объясняет Нил, у молодых исследователей сегодня есть сверхспособность, которой не было у предыдущих поколений: большие языковые модели, способные значительно ускорить обучение и исследования. В этой расширенной беседе Нил и ведущий Роб Виблин обсуждают всё это, а также некоторые другие интересные моменты из четырёхлетней работы Нила в Google DeepMind. И обязательно посмотрите первую часть беседы Роба и Нила!    • We Can Monitor AI’s Thoughts… For Now | Go...   Полная расшифровка и ссылки для получения дополнительной информации: https://80k.info/nn2 Что вы думаете об этом эпизоде? https://forms.gle/6binZivKmjjiHU6dA Главы: • Вступительная часть (00:00:00) • Кто такой Нил Нанда? (00:01:11) • Площадь поверхности удачи и использование правильных возможностей (00:01:47) • Написание холодных писем, которые не удаляются мгновенно (00:03:54) • Как Нил использует LLM, чтобы добиться гораздо большего (00:09:18) • «Если ваша работа по безопасности не способствует развитию возможностей, это, вероятно, плохая работа по безопасности» (00:23:45) • Почему Нил отказывается делиться своим p(doom) (00:27:54) • Как Нил перешел от дивана к ракете, развивающейся в направлении выравнивания (00:32:00) • Навигация к достижению результатов в передовой компании в области ИИ (00:40:05) • Чем отличается влияние внутри и за пределами передовых компаний? (00:50:45) • Необходим ли особый набор навыков для руководства крупными компаниями? (00:56:56) • Преимущества использования систем управления рисками: ранняя подготовка (01:01:00) • Стоит ли работать в самой безопасной или самой безрассудной компании? (01:06:20) • Советы по трудоустройству в передовую компанию в сфере ИИ (01:09:40) • Что делает хорошего исследователя в области машинного обучения? (01:14:05) • Три этапа исследовательского процесса (01:20:50) • Какую реальную пользу приносят научные руководители? (01:33:16) • Докторская степень по ИИ – с такими сроками?! (01:35:37) • Можно ли обобщить советы по карьере, или все получают советы, которые им не нужны? (01:42:24) • Помните: вы можете просто делать то, что хотите (01:45:25) Этот эпизод был записан 21 июля. Видеомонтаж: Саймон Монсур и Люк Монсур Звукорежиссура: Бен Корделл, Майло Макгуайр, Саймон Монсур и Доминик Армстронг Музыка: Бен Корделл Оператор: Джереми Шевийотт Координация, расшифровка и веб-разработка: Кэти Мур