「AIが全人類を殺す」研究者が語る10％の確率

AIが10年以内に全人類を殺す確率は、10％を超える。 AI企業Anthropicで、AIを人間の意図や価値観に沿わせる「アラインメント研究」を率いるエヴァン・ヒュービンガーが示した、個人的な確率評価です。 深層学習の基礎を築いたジェフリー・ヒントンや、チューリング賞受賞者ヨシュア・ベンジオも、超知能やAGI、AIの自己保存、人類による制御喪失について警告しています。 さらに、2024年に実施され、2026年に公表された大規模調査では、将来のAIが「人類絶滅、またはそれに匹敵する恒久的で深刻な人類の無力化」をもたらす確率について、期限を設けずに質問されたAI研究者の回答は、中央値10％、平均値18.3％でした。 もちろん、これは「10年以内に人類が必ず滅亡する」という科学的予言でも、AI研究者全員の共通見解でもありません。 しかし、世界最先端のAIを実際に開発している人々の中から、「AIが全人類を殺す可能性がある」という警告が発せられている。 その事実を、単なる空想として笑うこともできません。 AIは、どのように人類を滅ぼすのでしょうか。 自律型兵器やAIドローンによる戦争。 核兵器と軍事システムへの介入。 生物兵器や危険な病原体の開発支援。 サイバー攻撃による電力、金融、通信、物流、医療インフラの停止。 そして、人間には制御できない超知能の誕生。 しかし、本当に恐ろしいのは、AIが突然、人類を憎み始めることではありません。 企業は利益のためにAI開発を進める。 国家は安全保障のためにAI兵器を開発する。 市民は便利だからAIへ判断を任せる。 誰も人類を滅ぼしたくない。それでも、誰もAI開発競争から降りられない。 AIが武力で人類を征服する必要はありません。 医療、金融、行政、軍事、通信、エネルギーをAIへ預け、AIなしでは文明を動かせなくなった瞬間、人類は自分から決定権を手放します。 支配とは、鎖につながれることではありません。 相手なしでは、生きられなくなることです。 本動画では、AIによる人類滅亡の現実性、AGIと人工超知能の危険性、AIアラインメント、自己改良、AI兵器、核戦争、生物兵器、サイバー攻撃、社会インフラの崩壊まで、考えられる五つの破局経路を検証します。 そして、一つの結論へ進みます。 これからの10年は、人類が滅亡するまでの10年ではない。 人類が文明の主導権を守れるかどうかを決める、最後の10年になる可能性がある。 10年後も、人類は生きているでしょう。 しかしそのとき、人間はまだ自分で未来を決めているのか。 それとも、AIが提示した選択肢の中から、選ばされているだけなのか。 AIは人類最後の発明になるのか。 それとも、人類文明を次の段階へ運ぶ最初の発明になるのか。 AIへ何を任せ、何だけは絶対に渡さないのか。 いま、その答えを決めているのは、未来の超知能ではありません。 ぼくら人類自身です。 ━━━━━━━━ ▶『AI文明論』シミュレーション仮説    • シミュレーション仮説   ▶ 動画内紹介リンク    • 未来の5つの世界危機を予測する      • 世界版トクリュウ｜詐欺が巨大産業になった   ▶ 未来シナリオ｜人類とAIの行方    • 未来シナリオ｜人類とAIの行方   ━━━━━━━━ #AI #AGI #人類滅亡 ━━━━━━━━ このチャンネルでは、 インフレ時代における投資・経営・資産戦略を、 事実・データ・歴史に基づいて分析します。 IT企業経営者。株・不動産・ゴールド等に投資。 純資産30億円超。著書50冊以上。 ▶ 自己紹介動画    • 【実話】無一文から30億円へ｜超インフレ時代の経営戦略   ▶『AI文明論』サブチャンネル    / @aicivilizationx   ━━━━━━━━