Перейти к содержимому

【閲覧注意】METRの報告書がヤバい。AIの加速が止まらず単純計算だと1年で超知能へ【ゆっくり解説】

終末のゆっくり

0:00 / 0:00

【閲覧注意】METRの報告書がヤバい。AIの加速が止まらず単純計算だと1年で超知能へ【ゆっくり解説】

5 128 просмотров · 10 ч назад
終末のゆっくり
166 подписчиков
5 128 просмотров · 10 ч назад
AIの評価機関METRが2026年11月5日に公開した報告書「Independent Assessment of AI R&D Acceleration at Anthropic in October 2026」(AnthropicのAI研究の加速についての独立評価)をゆっくり解説します。AIがAIの開発を手伝い始め、Anthropicの開発のスピードはもう約2倍。知能爆発(再帰的自己改善)は始まっているのか。 METRは、AIの能力や危なさを外から測る研究団体です。AI企業Anthropicの中に11週間入り、AIの開発が速くなっているかを調べました。 結果は、この1年の伸びが、それまでのおよそ2倍。その加速の大部分は、たぶんAIのおかげ。今後1年で効くブレーキも見つからなかった、というものです。 この報告書を読んだAIの安全の研究者アジェヤ・コトラさんは、2倍速を出すには研究者一人ひとりが約10倍速くなっている必要があると計算し、加速がなめらかに続けば、単純な延長では1年で超知能に届く、と書きました。 本当にそうなるのか。報告書に書いてあることと、計算したことと、分からないことを分けて見ていきます。 今回は、 ・何を、どうやって測ったのか(テストの点数をまとめた指数、1.9倍、約8割はAI) ・2倍なのに、なぜ研究者は10倍なのか(作業台は増えない、自己申告12倍、時間の泡) ・倍になる間隔が半分ずつ縮むと、1年で無限になる計算 ・ブレーキはあるのか(詰まりは見つからず、ソフトウェアの効率の天井、電気待ちとの関係) ・証拠の大半が黒塗りの報告書 ・ブレーキ役は、間に合うのか(会社の安全の約束、業界のセキュリティ) ・本当に、そうなるのか を、霊夢と魔理沙がゆっくり解説します。 ■ 目次 0:00 オープニング:METRの報告書と「1日で10日分」 4:04 METRの報告書は、何をどう測ったのか 6:05 2倍なのに、なぜ研究者は10倍? 9:46 1年で無限:知能爆発の計算 12:31 ブレーキは、あるのか(詰まりと天井) 15:39 黒塗りの、METRの報告書 19:02 ブレーキ役は、間に合うのか(Anthropicの安全の約束) 22:06 本当に、1年で超知能になるのか 24:03 神社の、時間の泡 26:13 エンディング ※動画の内容は2026年11月7日時点の情報に基づきます。 ※METRの報告書が示したのは「およそ2倍(1.9倍、95%の区間で1.5〜2.8倍。測り方によって1.1〜2.9倍)」「その約8割はAIによる、という推測」「今後12か月で効く大きな詰まりの証拠は見つからなかった」までです。結論にいちばん参考になった証拠の大半は、Anthropicが黒塗りにしています。 ※「研究者が約10倍速」「単純に延ばすと1年で超知能」は、コトラさんの計算と単純な延長で、METRの結論ではありません。コトラさんは、この評価には加わっておらず、意見は自分のもので、METRの見解ではないと断っています。 ※「社員の自己申告12倍」は社内の投票で、METRは「とても緩い証拠」と書いています。 ※「ハギングフェイスの事件より大きい」「ここ数年で最も重要」は、コトラさんの意見です。 ※「天井が人間よりはるか上なら救いにならない」「当たっていたら確かめる時間が残らない」は、動画の中の見立てです。 ※伸びの折れ線、時間の泡、倍になる間隔の帯などの図は、説明のための模式図です。報告書の実際のグラフではありません。 ※博麗神社の見習い、書類、鳥居の残り時間などは、説明のために作ったものです。 みんなの仕事が、もし10倍速になったら、空いた時間で、何をしますか? コメントで教えてください。 「終末のゆっくり」では、海外のAI研究や事件から、人類がどうやって終わりそうかを、ブラックユーモアとともに見届けていきます。 チャンネル登録しておけば、人類の最期も見逃さずに済みます。 それじゃあ、ゆっくり終わっていってね。 ■ 主な参考資料 METR「Independent Assessment of AI R&D Acceleration at Anthropic in October 2026」(2026年11月5日) https://metr.org/blog/2026-11-05-anth... Ajeya Cotra「AI is dramatically accelerating AI research right now」Planned Obsolescence(2026年11月6日) https://www.planned-obsolescence.org/... Anthropic「Responsible Scaling Policy」(2026年7月版) https://www-cdn.anthropic.com/files/4... Anthropic, PBC「Form S-1 Registration Statement」(2026年10月26日) https://www.sec.gov/Archives/edgar/da... Tom Davidson、Tom Houlden(Forethought)「How quick and big would a software intelligence explosion be?」(2025年8月4日) https://www.forethought.org/research/... Daniel Kokotajlo ほか「AI 2027」(2025年4月3日) https://ai-2027.com/ Epoch AI「Epoch Capabilities Index」 https://epoch.ai/eci Ajeya Cotra「The Hugging Face attack surprised me」Planned Obsolescence(2026年8月28日) https://www.planned-obsolescence.org/... ■ 使用素材・音声 立ち絵:きつね(仮)様「きつねゆっくり(東方通常ゆっくり系)」 https://ci-en.net/creator/34363/artic... 冒頭BGM:おてんば恋娘アレンジ Tomboyish Girl in Love (Arrange ver.)    • おてんば恋娘アレンジ Tomboyish Girl in Love (Arrange...   本編BGM:コールドフィッシュ/かずち様 OpenTracks(旧DOVA-SYNDROME) https://opentracks.com/bgm/detail/2744 音声:AquesTalkPlayer(AquesTalk1) 背景・図解はコードで描いたアニメーションです。団体名・会社名は文字で表示しており、各団体・各社のロゴは使っていません。 本動画は「東方Project」の二次創作です。 #METR #超知能 #ゆっくり解説 #知能爆発 #AI #Anthropic #終末のゆっくり