AIは間違う以上に確信を増やしている|誤答より危険な認知の変化
Motocrab | 世界構造考察
0:00 / 0:00
AIは間違う以上に確信を増やしている|誤答より危険な認知の変化
27 927 просмотров · 1 месяц назад
Motocrab | 世界構造考察
81,3 тыс. подписчиков
27 927 просмотров · 1 месяц назад
説明欄
AIは、分からないことを必ず知識へ変えるわけではありません。
ただ、「答えがない状態」を「答えがある状態」へ変えてしまうことがあります。
2026年に公開された研究では、AIを使える人ほど「分かりません」と答える回数が大きく減りました。
しかし、正答率は下がり、自分の回答への自信は高くなっていました。
AIの危険は、間違った答えを出すことだけではありません。
本来なら「未確認」「不明」「要調査」とされるはずだった場所が、整った文章によって見えなくなることです。
「分かりません」は、知識の欠如ではありません。
調査を始める。
詳しい人へ相談する。
判断を延期する。
誤った行動を止める。
そんな役割を持つ、判断の安全装置です。
今回は、AIによって「分からない」が消えると、人間の学習、組織の意思決定、そして社会全体に何が起きるのかを考えます。
参考文献
キアラ・マルコッチャほか(2026)「AIの助言は、誤答でも『分からない』と言う意欲を抑える」※プレプリント
アッシャー・コリアト、モリス・ゴールドスミス(1996)「記憶の正確さを調整するメタ認知の監視・制御過程」
マシュー・フィッシャーほか(2015)「インターネット検索は、自分の知識に対する評価を膨らませる」
レオニード・ローゼンブリット、フランク・ケイル(2002)「説明できるという錯覚――人は自分の理解を過大評価する」
エヴァン・リスコ、サム・ギルバート(2016)「認知的オフローディング――思考を外部の道具へ委ねる仕組み」
ジェフリー・カーピック、ヘンリー・ローディガー(2008)「学習における想起の決定的重要性」
ラジャ・パラスラマン、ディートリヒ・マンジー(2010)「自動化を利用するときに生じる慢心とオートメーション・バイアス」
エイミー・エドモンドソン(1999)「職場チームにおける心理的安全性と学習行動」
00:00 - 答えが判断の基準を変える
02:20 - 「分かりません」は安全装置
04:05 - 流暢さが継ぎ目を隠す
06:19 - 空欄は学びの入口
08:22 - 文書が無知を洗浄する
10:46 - 質問の地図を失う社会
13:06 - 「分からない」を守る設計
15:10 - 止まれることも知性