【AIは人類を滅ぼすか】なぜAIが「人類滅亡」を志向するメカニズム／自己保存という「サブ目標」の重要性／AIの発達で「ユートピア」は到来するか／国際的な規制は可能か／THINKpod

AIが劇的な進歩を遂げるなか、アメリカをはじめとした諸外国では、AIが人類を滅ぼす可能性がさまざまな研究者によって真面目に議論されています。そこで議論されているのはどのような可能性なのか。AIのリスクや安全利用に詳しいAGI Hub共同代表の有路翔太さん（bioshokさん）に伺いました。収録日：9月18日 THINKpodは講談社がお送りするビジネス映像メディアです。    / @thinkpod_by_kodansha   👆チャンネル登録お願いします！ ＜前編＞   • 【AGI実現で人類史は書き変わる】AGIが実現したときに起きること／AIの進化で起き...   ＜目次＞ 0:00 ダイジェスト 0:47 「知能爆発」後の世界 7:51 AGIによる「ユートピア」の実現 11:21 人類滅亡のシナリオ 17:33 なぜAIは人類を滅ぼそうとするのか？ 21:29 「超知能の賢さ」と「人間の賢さ」 24:34 国際的な規制は可能か 28:35 日本の立ち位置は？ 32:28 アラインメントに意味はある？ ＜ゲストの著書＞ 『知能爆発 AIの次に来るAGIとは何か、そして人類に何が起きるのか』 https://link.amazon/B0eGk7QZI ＜ゲスト＞ 有路翔太／bioshok AGI Hub共同代表 早稲田大学先進理工学部応用物理学科卒業。東京大学大学院工学系研究科原子力国際専攻修了。大学院で自然言語処理に関する研究を行う。Xアカウント@bioshok3にてAIに関する情報を発信している。一般社団法人AIアライメントネットワーク知性共生チャプター評議会委員。2026年、株式会社AGI Hubを設立し共同代表に就任。 ＜聞き手＞ 丸尾宗一郎 1990年、大分県生まれ。東京大学教養学部卒業後、2012年に講談社に入社。フライデー、週刊現代、現代ビジネスなどを経て、THINKpodの編集長。 https://x.com/miduwo #AI #AGI #ASI #知能爆発 #シンギュラリティ