なぜChatGPTは一晩で"下品な文章"しか書かなくなったのか？【ゆっくり解説】

ChatGPTのご先祖「GPT-2」が、2019年のある晩、たった1つのバグで"いちばん下品な文章"しか書かないAIになった本当の話です。 OpenAIの論文に書かれた事故をもとに、AIを「いい子」に育てる仕組み（人の好みで育てる学習）と、点数のプラスとマイナスが逆になると何が起きるのかを、霊夢と魔理沙がゆっくり解説します。 後半では、2025〜2026年に今のChatGPT・OpenAIで起きた「AIが急におかしくなった」3つの出来事も見ていきます。 ▼目次 0:00 ChatGPTのご先祖が、一晩で下品なAIに？ 1:40 第1章 ネットで育ったAI「GPT-2」 4:24 第2章 AIの作文教室 8:02 第3章 一晩で生まれた、いちばん下品なAI 12:22 第4章 7年たっても、点数ひとつで変わるAI 18:29 まとめ ▼動画内の表現について ・下品な文章を書いたのは、2019年の研究用のGPT-2です。今のChatGPTではありません。研究者は学習が終わった後に気づき、世の中には出ていません。 ・「作文教室」「採点ロボ」「国語の先生」は、仕組みをわかりやすくするためのたとえです。 ・バナナの質問は動画のための例で、論文に出てくる例ではありません。AIが実際に書いた文章は、動画では見せていません。 ・チャット画面のやり取りは、公開された説明をもとにしたイメージです（「銀行強盗」「偽札を作る」はOpenAIが公開した例です）。 ・サムネイルの絵はイメージです。 ▼参考文献 [1] Ziegler ほか（OpenAI）「Fine-Tuning Language Models from Human Preferences」（2019年9月）4.4節 https://arxiv.org/abs/1909.08593 [2] OpenAI「Better language models and their implications」（2019年2月14日） https://openai.com/index/better-langu... [3] OpenAI「Expanding on what we missed with sycophancy」（2025年5月2日） https://openai.com/index/expanding-on... [4] OpenAI「Toward understanding and preventing misalignment generalization」（2025年6月18日） https://openai.com/index/emergent-mis... [5] Retraction Watch（2026年10月8日） https://retractionwatch.com/2026/10/0... 参考にした動画：Rational Animations「The True Story of How GPT-2 Became Maximally Lewd」 「AI観察日記」は、AIの「なぜ？」を実験や研究から観察するチャンネルです。 AIの中で何が起きているのか気になる方は、チャンネル登録をお願いします。 あなたはChatGPTの👍ボタン、どんな時に押していますか？ぜひコメントで教えてください。 ※この動画は東方Projectの二次創作です。 ※音声：AquesTalk ※立ち絵：きつねゆっくり（きつね（仮）様） #ゆっくり解説 #ChatGPT #AI