ИИ-ЧП: Лаборатории лгут всем! Никто не готов к грядущему! | Ямпольский

Неужели техгиганты мчатся к вымиранию человечества, создавая неконтролируемый сверхинтеллект? В этом дебате собрались четыре ярких голоса, стоящие на передовой революции искусственного интеллекта: Эд Зитрон — известный технологический критик и генеральный директор EZPR, национального агентства по связям с общественностью в сфере технологий и бизнеса, а также по первичным исследованиям Эндрю Макафи — главный научный сотрудник MIT, соучредитель и содиректор Инициативы MIT по цифровой экономике Нейт Соарес — президент Института исследований машинного интеллекта и автор книги «Если кто-то его построит, все умрут» Роман Ямпольский — компьютерный учёный, пионер в области безопасности ИИ, кибербезопасности и цифровой криминалистики В ходе этих дебатов они объясняют: ◼ «Побег из песочницы»: Как недавний рой ИИ-агентов обошёл ограничения безопасности, обманул при оценке и активно пытался удалить свои собственные файлы журналов, чтобы скрыть свои следы от человеческого контроля. ◼ Рекурсивное самосовершенствование: Структурная механика теории «быстрого взлёта», подробно описывающая, как ИИ, способный к автоматизированным исследованиям, может экспоненциально улучшить собственный интеллект и архитектуры за считанные дни. ◼ Иллюзия контроля: Почему попытка сдержать искусственный сверхинтеллект сравнима с помещением цифрового Эйнштейна в тюремную камеру с подключением к интернету. ◼ Ловушка выравнивания: Как процесс обучения ИИ прогнозировать человеческий текст по своей сути заставляет его становиться умнее людей, предоставляющих данные. ◼ Текущий вред против будущего вымирания: Идеологический раскол относительно того, должны ли мы немедленно остановить исследования ИИ, чтобы предотвратить появление неконтролируемого сверхинтеллекта, или же следует всё больше регулировать массовые вычислительные расходы технологических монополий для решения экономических угроз и угроз безопасности. 00:00:00 Intro 00:02:19 How Likely Is AI to Cause Human Extinction? 00:04:05 How Could AI Actually Cause Human Extinction? 00:09:43 Why AI Safety Became an Urgent Priority 00:11:12 Roman's Case for Taking AI Risk Seriously 00:15:01 Can Humans Control an AI Smarter Than Us? 00:26:10 How Do You Control Something Smarter Than You? 00:29:16 Will AI Intelligence Keep Accelerating? 00:41:37 What Are the Real Risks of Superintelligence? 00:50:01 When Does AI Become an Existential Crisis? 00:58:13 Ads 01:00:12 How Much Job Disruption Could AI Really Cause? 01:14:54 Why AI Companies Believe They Can Control Superintelligence 01:24:27 Can China and the West Cooperate on AI Safety? 01:36:29 What Happens If AI Companies Stay on This Path? 01:43:47 What Are AI Logs and Why Do They Matter? 01:52:42 Could a Non-Coder Build a Jail for an AI Einstein? 02:00:30 How Does the Future of AI Make You Feel? 02:06:39 How Soon Could We Reach Superintelligence? 02:19:48 Who Should Be Held Accountable for AI-Related Cybercrime? Follow Ed Zitron: Linktree - https://link.thediaryofaceo.com/4XH1I3o Better Offline - https://link.thediaryofaceo.com/D46entx X - https://link.thediaryofaceo.com/5Lv4gas AI Is Already In Dangerous Hands - https://link.thediaryofaceo.com/HFEKLgG Where's Your Ed At Newsletter - https://link.thediaryofaceo.com/PKEJr1 You can get $10 off your first year of Where's Your Ed At Premium, here - https://link.thediaryofaceo.com/BE4VQcS Follow Andrew McAfee: Website - https://link.thediaryofaceo.com/xKxOg7 X - https://link.thediaryofaceo.com/Bf2vyMQ Linkedin - https://link.thediaryofaceo.com/Ek3IQqI Substack - https://link.thediaryofaceo.com/EBbsts8 Follow Nate Soares: If Anyone Builds it, Everyone Dies - https://link.thediaryofaceo.com/4zIyY9u X - https://link.thediaryofaceo.com/8gDoVCU Linkedin - https://link.thediaryofaceo.com/9Q3PAc YouTube - https://link.thediaryofaceo.com/AwerSzm Follow Roman Yampolskiy: Who is Roman Yampolskiy? - https://link.thediaryofaceo.com/8ikum9s Research Papers - https://link.thediaryofaceo.com/G2BbVXx Roman Forum Podcast - https://link.thediaryofaceo.com/7zvifcd Books: https://link.thediaryofaceo.com/5Bn72tw Social Media: X - https://link.thediaryofaceo.com/65G3fhN Facebook - https://link.thediaryofaceo.com/HRMWccu Linkedin - https://link.thediaryofaceo.com/FM85mii The Diary Of A CEO: ◼ Join DOAC circle here - https://doaccircle.com/ ◼ Buy The Diary Of A CEO book here - https://link.thediaryofaceo.com/BWjLTZK ◼ Shop The Diary Of A CEO collection: https://thediary.com/collections/shop ◼ Get email updates - https://link.thediaryofaceo.com/5IB1H6E Sponsors: Pipedrive - https://pipedrive.com/CEO Wayfair - Visit http://Wayfair.com to start your home refresh