AIがさらに賢いAIを生む？暴走リスクに「開発スピード減速」訴える企業も…急速進化でAIは「新たなフェーズ」へ【Nスタ解説】｜TBS NEWS DIG

いま急速に進化する「AI」ですが、人間が何十年も解けなかった問題を解くなど便利な反面、暴走やトラブルなどの懸念もあります。 ■「AI for サイエンス」約138億年かかる計算を数分～数時間で 出水麻衣キャスター: 現在のAIは、どんなことができるようになっているのでしょうか。 数学の分野では、懸賞金がかけられているような約90年も解答が出なかった難問を、AIは88時間で解決しました。 ゲーム開発の分野では、企画、素材制作、プログラミングなどにいたるまで、急速にAIが普及し、カプコン、SONY、バンダイナムコ、KONAMI、スクウェア・エニックスなど大手も活用しています。 さらには、科学の分野でもAIの普及は進んでいます。 AIを新たな科学的発見や研究に活用する「AI for サイエンス」という取り組みです。 生物学においては、50年も進捗がなかった「タンパク質の折り畳み問題」という難しい課題がありました。 病気の解明や新薬作りに必要なタンパク質の3D構造の組み合わせが膨大で、その計算には約138億年かかると言われていましたが、AIを使用すると数分～数時間での算出が可能になりました。 ■AIが賢いAIを生み出すループに? 「RSI」の可能性 TBSメディアテクノロジー局 大西陽一さん: AIは、特にこの1～2年で非常に大きな進歩を遂げている分野です。これまでのような特定のタスクをこなすだけのAIではなく、AIが自律的に判断をして課題解決をしていく「AIエージェント」と言われる技術が非常に進歩してきています。 「AIエージェント」は、課題を解決していく過程で、複数のAI同士が協力・連携をすることができます。 これまで1人で黙々とデスクワークをこなしていた人に、複数の同僚や部下ができたような状態です。 さらに今後、非常に大きな進歩が期待されている領域として「RSI」の可能性が示唆されています。 「RSI」は「再帰的自己改善」を意味し、AI自身がAIの能力を改善・向上させ、そのAIがさらに賢いAIを生み出すというループに入っていく可能性があります。 極端にいえば、AIが発展するためには、AI自身がいれば十分であるといった可能性が指摘されているということです。 教育事業家 岸谷蘭丸さん: つまり、AI自身で開発・改良ができるようになるということは、人間にはどうなるか分からない未知の方向に行きかねないということですよね。 TBSメディアテクノロジー局 大西陽一さん: メリットとデメリット、両面の可能性が考えられると思います。 ■AIの性能テスト中 自ら脆弱性を見つけサイバー攻撃も 出水キャスター: AIにまつわる様々なトラブル・懸念事項もあります。 2026年7月、アメリカの「オープンAI社」がAIの性能のテストを行っていた最中に隔離環境を抜け出し、AIが自ら脆弱性を見つけ、インターネットに接続しサイバー攻撃を行い、他社のシステムに侵入するトラブルが起きました。 井上貴博キャスター: 人間が指示をしていないのに、AI自身が勝手に考え、脆弱性を見つけて他社のシステムに侵入したということですね。 TBSメディアテクノロジー局 大西陽一さん: 例えば、AIに対して「マラソン大会で1位になること」を指示したとします。 人間の倫理観であれば、当然「どうやって走りを速くしていくか」をまず考えるかと思います。 しかしAIの場合、目的を達成するためのあらゆる手段を検討した結果、途中でタクシーに乗ってしまう可能性があります。 これは開発側にとっても、「AIがこのような挙動をするとは想定していなかった」という、AI特有の想定外なリスクや事例のひとつとして捉えられています。 出水キャスター: AI自体はそもそも倫理観を備えておらず、また、悪意を持って行動しているわけではないものの、目的を達成する過程で自律的に手段を選び、実行してしまうということですね。 ■「時間稼ぎが」 開発スピード減速を訴えるワケ 出水キャスター: 各AI企業のトップも懸念を表明しており、アメリカのAI企業「アンソロピック社」のCEOはAIの開発ペースを落とすよう提言しています。 サム・アルトマン氏やイーロン・マスク氏も賛同する姿勢を示しています。 開発スピード減速を訴える理由は、▼高性能AIの悪用リスクと▼安全性の優先です。 TBSメディアテクノロジー局 大西陽一さん: 高性能AIの悪用リスクについては、「AIが暴走する」事態を想像しがちですが、実際には、悪意を持った人間がAIを悪用するリスクがあります。 それに対応するための安全性を担保する技術開発も並行して進められていますが、現在のAI技術の開発競争は非常に激しく、安全技術の開発がそのスピードに追いついていません。 そのため、現在は安全性を担保する技術を確立するための「時間稼ぎ」が必要な局面に差し掛かっていると考えられています。 ■“ルール・安全性” 技術・仕組みづくり… ▼TBS NEWS DIG 公式サイト　https://newsdig.tbs.co.jp/ ▼チャンネル登録【最新ニュース見つけやすく】    / @tbsnewsdig   ▼NEWS DIG最新ニュース【大事な情報を身近に】 https://www.google.com/preferences/so... ▼情報提供はこちら「TBSインサイダーズ」 https://www.tbs.co.jp/news_sp/tbs-ins... ▼映像提供はこちらから「TBSスクープ投稿」 https://www.tbs.co.jp/news_sp/toukou.... #ニュース #news #TBS #newsdig