Перейти к содержимому

8 способов, которыми стратегическая ситуация полностью изменилась | Роб Уиблин

80,000 Hours

0:00 / 0:00

8 способов, которыми стратегическая ситуация полностью изменилась | Роб Уиблин

15 043 просмотра · 2 нед. назад
80,000 Hours
96,5 тыс. подписчиков
15 043 просмотра · 2 нед. назад
У меня есть просьба ко всем сотрудникам компаний, занимающихся искусственным интеллектом: пересмотрите, является ли ваша нынешняя должность лучшей возможностью для достижения результатов. А если нет — смените работу. Большинство сотрудников передовых лабораторий, слушающих эту передачу, уже изо всех сил пытаются наладить работу, находясь на сложных и стрессовых должностях. Многие за последние месяцы изменили свои приоритеты именно так, как я предлагаю. Но для тех, у кого не было времени переосмыслить ситуацию: стратегическая ситуация меняется так быстро, что если вы время от времени не остановитесь и не оглянетесь вокруг, вы можете упустить свой шанс проявить себя. Многие технические специалисты, включая соучредителя Anthropic Джека Кларка, теперь считают, что полная передача исследований и разработок в области ИИ самим ИИ станет возможной уже в следующем году — а если не тогда, то в 2028 или 2029 году. Если вы работаете в компании, занимающейся искусственным интеллектом, и считаете, что рекурсивное самосовершенствование (РСС) может наступить очень скоро, это, вероятно, потребует принятия решительных мер, чтобы ваша роль либо отсрочила РСС, либо снизила вероятность того, что это обернется против нас. Вы лучше меня знаете, как это, вероятно, будет выглядеть в вашем случае. Но чтобы разбудить ваше творческое вдохновение, я предлагаю восемь способов, которыми, на мой взгляд, изменилась стратегическая ситуация – хотя я не знаю всего, что знаете вы, и понимаю, что все они спорны: 1. Мониторинг цепочки мыслей, вероятно, перестает работать без серьезных усилий по его поддержанию. 2. Непродуктивно заделывать поверхностные признаки глубоких структурных проблем, которые, как видно, не решаются. 3. Оценка безопасности и согласованности нуждается в революционной проверке достоверности, чтобы перестать вводить общественность в заблуждение. 4. Помощь в развитии потенциала выглядит хуже, чем раньше, особенно с учетом ускорения внедрения RSI. 5. Все меньше необходимости в помощи альтруистов в чисто коммерческой работе. 6. «Продвижение вперед» однозначно необходимо, и работа над этим – огромная новая возможность. 7. У сотрудников постоянно сокращается время для организации групповой работы и формирования событий. 8. Появляются новые возможности для влияния за пределами развивающихся компаний, которые стоит рассмотреть. Я понимаю, что вы, возможно, и так истощены, перегружены и встревожены. Несколько недель назад Дэвид Робинсон (бывший сотрудник OpenAI) в программе Эзры Кляйна «Шоу Эзры Кляйна» описал сотрудников компаний, занимающихся ИИ, как «работающих на пределе своих возможностей», и это звучит довольно правдоподобно. Но, к сожалению, невозможно избежать необходимости периодически оценивать общую картину и определять, где вы можете проявить себя с наибольшей эффективностью. Этот эпизод был записан 16 октября 2026 года. Ссылки для получения дополнительной информации и полной расшифровки: https://80k.info/reprioritise Главы: • Запрос к сотрудникам компании, занимающейся ИИ (00:00:00) • Цепочка рассуждений (00:03:34) • Не закрашивайте трещины (00:04:44) • Возможно, это не самая подходящая для вас модель (00:06:00) • Развитие возможностей выглядит хуже (00:06:44) • Всё меньшая потребность в альтруистах, занимающихся коммерчески ориентированной работой (00:08:50) • Шаг вперёд (00:09:29) • Организация персонала (00:11:07) • Рассмотрите возможность работы в другом месте (00:12:38) • Пересмотр приоритетов (00:13:27) _Наша производственная команда Включает в себя: • Видеомонтажеры: Джош Алвард, Доминик Армстронг, Джаспер Луитлен, Майло Макгуайр, Люк Монсур, Саймон Монсур, Олли Бигнелл и Андрес Эскобар • • Продюсеры: Элизабет Кокс и Ник Стоктон • Координация и поддержка: Кэти Мур, Лу Моран и Коди Фенвик • Оператор: Доминик Армстронг