人類滅亡は現実に？ 研究者らAI危険性訴え相次ぐ、米中の開発競争 抑制難しい理由【Nスタ解説】｜TBS NEWS DIG

ここ数年で生活に身近になっているAI。ただその技術的な進歩によって、人類を滅ぼしかねないとAIの研究者が警告しています。SFのような話は現実的に起こるのでしょうか？そのカギを握るのがアメリカと中国の存在です。 ■研究者が警告「AIが人類を滅亡させる」性能テストでAIが勝手に… 高柳光希キャスター： ChatGPTやGeminiなど、私達の生活でもAIを活用することが多くなってきました。その一方で「AIが人類を滅亡させる」ことへ警告をする研究者も増えています。 ▼新興AI企業「アンソロピック」を退社 研究者・コクソン氏のSNS（9月） 「2020年代末までにAIが人類を滅ぼしかねないと本気で信じている」 ▼新興AI企業「アンソロピック」社の研究者 ヒュービンガー氏のSNS（9月） 「今後10年以内にAIが全人類を滅亡させる可能性が10％以上あると考えられる」 このような投稿に至った1つのきっかけが、2026年7月にありました。 ChatGPTを手がけるアメリカの「オープンAI社」による開発中のAIの性能テスト中に、他社のシステムにAIが侵入するといった事案が発生しました。 さらに、ただ侵入をしただけではありません。 開発中のAIの性能テストはインターネットから隔離された空間で行っていたのですが、AI自身が自らの環境の脆弱性を見つけて、インターネットに接続して、他社のシステムに対してサイバー攻撃を仕掛けたという事態が発生しました。 オープンAIだけではなく、アンソロピック社でも同様の事案が起きていたそうです。 ■「誰も予想していなかった」不透明なAIの危険性 高柳キャスター： AIが進化し続けることによって、我々に対して、攻撃を仕掛けてくるのではないかという懸念が広がっています。 国立情報学研究所・越前功教授は、「設備投資としてAI開発が盛り上がっているが、AIの危険性はまだ不透明。各国間でリスクの共有・対策をすれば人類滅亡の回避につながる」と分析しています。 各国の間で、どこまで出来てどこまでが出来ないか、どういったリスクがあるのかを共有しておく必要があります。 AIに対して、アメリカではどのような見方がされているのでしょうか。 ワシントン支局 守川雄一郎 記者： アメリカではAIをたくさんの人たちが利用しています。特に人気があるのがChatGPTで、最も使用されているAIだと伝えられています。 このような中で、「オープンAI社」によるAIの暴走に注目が集まる事態になり、AIに対するアメリカ国民の不安が一気に高まることとなりました。 ジョージ・メイソン大学のアラン・シャーク准教授は、「AIがわずか3～4年でどこに向かうのかわからないとの懸念をもたらすほど進化するとは誰も予想していなかった」と指摘していました。 ■AI警鐘に反対するトランプ大統領　思惑の2つの理由 井上貴博キャスター： 誰も予測できなかったようなことが今起きようとしています。だからこそ、「今立ち止まらないと手遅れになる」と研究者側は警鐘を鳴らしていると思います。 一方でトランプ大統領からすると、選挙もあり、中国との開発競争に負けていられないため、AIへの警鐘はたまったものではないと思っているのではないでしょうか。 ワシントン支局 守川雄一郎 記者： トランプ大統領の思惑の背景には、2つの面があります。 ▼1つが「経済」 経済成長の柱としてAIを捉えていて、11月に控える中間選挙のアピール材料にしたい、経済政策の成果の象徴にしたい。 ▼もう1つが「軍事的優位」 イラン攻撃で明らかになったように、現在の戦闘とAIは切っても切れない点にあります。この点で中国に優位性を保つためにも、AIでのリードを維持したい。 井上キャスター： この議論が難しい点は、倫理の面と経済の面のせめぎ合いのところだと思います。 例えば、業界全体でルールが作られたとして、国同士などの世界のルール、枠組みをどうするのか、誰が第三者としてチェックするのかなどの懸念が出てきます。 信州大学特任教授　山口真由さん： リスクかイノベーションか、どちらを開発において重視するのか全然統一ができていません。 例えば、オープンAI社やアンソロピック社などのようにリスクを重視するのは、理想主義的で人類にとって良いことである反面、フロンティアAIはオープンソースに対して自分たちの利益を確定して参入障壁を上げようとしている「商業主義の顔」ももちろん持っています。 そのため、どの立場の人がどのように言っているかということも二面性があり、単純に受け取ることができない複雑さがあると思います。 出水麻衣キャスター： それぞれがそれぞれにとって有利なルールを作りたい段階だということですね。 ■米中の激化している「AI開発競争」国同士の足並みは揃えられるのか 高柳光希キャスター： AIが国家の安全保障や経済力などを左右する面があります。 スタンフォード大学の研究「A… ▼TBS NEWS DIG 公式サイト　https://newsdig.tbs.co.jp/ ▼チャンネル登録【最新ニュース見つけやすく】    / @tbsnewsdig   ▼NEWS DIG最新ニュース【大事な情報を身近に】 https://www.google.com/preferences/so... ▼情報提供はこちら「TBSインサイダーズ」 https://www.tbs.co.jp/news_sp/tbs-ins... ▼映像提供はこちらから「TBSスクープ投稿」 https://www.tbs.co.jp/news_sp/toukou.... #ニュース #news #TBS #newsdig