AI 開始自己研發 AI？Hinton、Bengio 等 22 位研究者談「智慧爆炸」

今年三月，Anthropic 內部由 AI 主導完成的研發工作只有 1%；到了八月，變成 26%。 如果 AI 開始自己打造下一代 AI，進步會不會越跑越快，把好幾年壓縮成幾個月？ 劍橋大學 CASP 聯合 Hinton、Bengio、Barto 三位圖靈獎得主，以及 OpenAI、微軟、Anthropic 的科學家，共 22 位研究者發表論文，正面回答這個問題。 這支手繪科普分五步帶你看懂： ・證據：AI 已經做了多少 AI 研發？ ・機制：遞迴自我改進為什麼會加速？關鍵數字 r 是什麼？ ・煞車：四種可能讓它慢下來的摩擦力 ・風險：社會跟不上、人類看不住、權力失衡 ・對策：看得見、踩得住、接得住 🔗 資料來源 ・論文報告頁 https://casp.ac/reports/intelligence-... ・論文 PDF https://casp.ac/__l5e/assets-v1/5efd4... ・Anthropic：Measurements for understanding the pace of AI development inside frontier labs https://www.anthropic.com/institute/m... ・Anthropic：When AI builds itself https://www.anthropic.com/institute/r... ・OpenAI：Research acceleration: The view inside OpenAI https://openai.com/index/research-acc... ・OpenAI：The Hugging Face incident and the road ahead https://openai.com/index/hugging-face... ・METR & Redwood Research：OpenAI / Hugging Face incident investigation https://metr.org/blog/2026-08-26-open... ・Epoch AI（Ho & Whitfill）：The software intelligence explosion debate needs experiments https://epoch.ai/gradient-updates/the... ・Epoch AI：How many digital workers could OpenAI deploy? https://epoch.ai/gradient-updates/how... ・Bloom et al. (2020)：Are Ideas Getting Harder to Find? https://www.aeaweb.org/articles?id=10... ・I. J. Good (1965)：Speculations Concerning the First Ultraintelligent Machine http://incompleteideas.net/papers/Goo... ・Geoffrey Hinton 推文 https://x.com/geoffreyhinton/status/2... ・CNN 專訪 Geoffrey Hinton（片頭引用片段）    • AI kill switch won't work in the long run:...