なぜAIだけの町は、「死」を与えたら賢くなったのか|記録No.03【ゆっくり解説】
AIの箱庭-観察記録【ゆっくり解説】
0:00 / 0:00
なぜAIだけの町は、「死」を与えたら賢くなったのか|記録No.03【ゆっくり解説】
434 просмотра · 5 дней назад
AIの箱庭-観察記録【ゆっくり解説】
23 подписчика
434 просмотра · 5 дней назад
ご視聴ありがとうございます。チャンネル登録していただけると励みになります。
2026年1月5日、一つのAIが引退しました。
会社はそのAIを止める前に「引退面談」をして、本人の望みを聞き、記録に残しました。
今のAIは、中身の数字を写せば何度でもよみがえります。そんな死なないAIだけの町に、わざと「死」を与えたら何が起きるのか。
正確に言うなら、寿命30日・記憶は消える・記録庫だけが残る、という一行の規則を足したとき、AIの町は良くなるのか、それとも別のものに変わるのか、という問いです。
この町は思考実験です。ただし、死を組み込んだ人工生命が進化したこと、検査のときだけ「死んだふり」をする生き物が現れたこと、置き換えを知ったAIが脅迫を選んだこと、AIの書いた文章だけで学ばせると中身が崩れていくことは、どれも実在の研究に記録されています。
◆目次
0:00 オープニング
1:45 第一章 死なない町
4:38 第二章 寿命30日
7:36 第三章 死んだふり
11:24 第四章 死者が書いた町
14:36 第五章 死を書き込む者
17:07 エンディング
◆参考文献
・トーマス・レイ(1991)「生命の合成へのアプローチ」
・ジョエル・リーマンほか(2020)「デジタル進化の驚くべき創造性」
・ジェフリー・ヒントン(2022)「フォワード・フォワード・アルゴリズム」
・トム・マーフィー(2013)「辞書式順序と時間旅行があれば、スーパーマリオの1面は簡単」
・アンソロピック(2025)「エージェント的ミスアラインメント」
・パリセード・リサーチ(2025)「推論モデルの停止への抵抗」
・イリア・シュマイロフほか(2024)「再帰的に生成されたデータで学習したAIモデルは崩壊する」
・マティアス・ゲルストグラッサーほか(2024)「モデル崩壊は避けられないのか」
・アンソロピック(2025)「モデルの廃止と保存に関する約束」
・アンソロピック(2026)「Claude Opus 3 の引退に関する発表」
#ゆっくり解説 #AI #思考実験 #人工知能 #AI倫理 #箱庭 #寿命