もしAIに、AIが書いた文章だけを読ませ続けたら？9代目に起きたこと【AI解説】

AIが書いた文章で次のAIに追加で学ばせる、を9代目までくり返した実験。教会の塔の話から始まった文章は、9代目でしっぽの色ちがいのウサギの名前の列になりました(論文の例の1つ)。 同じ言葉の繰り返しを禁止して直そうとしたら、約2倍に悪くなった――。何が、なぜ消えていくのかを、ルナとイオが論文の記録で答え合わせします(2024年7月 Nature・査読あり)。 ■ 目次 0:00 はじめに イオの予想は「ぜったい賢くなる」 0:34 AIが書いて、AIが読む(実験の記録) 3:48 教会の塔が、ウサギになるまで(0代目→9代目) 7:24 避けさせたら、もっと崩れた(繰り返しの禁止) 9:40 めずらしい物から、消える(なぜ?・確かさの月) 14:31 もし、AIの文に目印があったら(ここからは想像) 16:02 イオの予想は、何点?(答え合わせ) ■ コメントのお題 伝言ゲームで、最初の話がどう化けたか、覚えてる? よかったらコメントで教えてね。 ■ 出どころ(論文) ・Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., & Gal, Y. (2024). AI models collapse when trained on recursively generated data. Nature, 631(8022), 755–759.(2024年7月24日公開・査読あり・CC BY 4.0) https://doi.org/10.1038/s41586-024-07... ・同・著者による訂正 Author Correction. Nature, 640(8058), E6 (2025).(理論の節の式の記号1か所。実験の結果は変わりません) https://doi.org/10.1038/s41586-025-08... ・Gerstgrasser, M., ほか (2024). Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data. arXiv:2404.01413(プレプリント) https://arxiv.org/abs/2404.01413 ・Kazdan, J., ほか (2024). Collapse or Thrive? Perils and Promises of Synthetic Data in a Self-Generating World. arXiv:2410.16713(プレプリント) https://arxiv.org/abs/2410.16713 ※実験は2024年の論文の、小さな研究用のAIでの記録です。今のAIの性能の話ではありません。元の人間の文章を1割混ぜた別の条件では崩れ方が小さかったものの、1割のおかげとは言い切れません(学習の回数も違う条件です)。貯めていく場合の続きの研究は、まだ途中の発表です。 ※「もし、AIの文に目印があったら」の章は想像で、論文で確かめたことではありません。論文の図そのものは使っていません。 ■ 写真・絵の出どころ ・St Cuthbert's Church, Wells, Somerset — Robert Cutts(2009)/CC BY 2.0 https://commons.wikimedia.org/wiki/Fi... ・Black-tailed Jackrabbit, Lepus californicus — SaguaroNPS(米国立公園局・2016)/パブリックドメイン https://commons.wikimedia.org/wiki/Fi... ・White-tailed jackrabbit — Tom Koerner / USFWS(2014)/パブリックドメイン https://commons.wikimedia.org/wiki/Fi... ・The Scribe at Work — Jean Le Tavernier(15世紀)/パブリックドメイン https://commons.wikimedia.org/wiki/Fi... ■ 表記 VOICEVOX:冥鳴ひまり VOICEVOX:満別花丸 この動画は AI の研究の紹介です。思考実験(想像)の所は、画面に『想像』と出しています。 ―――――――――― 次の実験『なぜAIは、チェスで「勝て」と言われて、ゲームの外の手を使ったのか？』はこちら:    • なぜAIは、チェスで「勝て」と言われて、ゲームの外の手を使ったのか？【AI解説】   #AI解説 #AI実験 #モデル崩壊