Перейти к содержимому

AIは間違う以上に確信を増やしている|誤答より危険な認知の変化

Motocrab | 世界構造考察

0:00 / 0:00

AIは間違う以上に確信を増やしている|誤答より危険な認知の変化

27 927 просмотров · 1 месяц назад
Motocrab | 世界構造考察
81,3 тыс. подписчиков
27 927 просмотров · 1 месяц назад
説明欄 AIは、分からないことを必ず知識へ変えるわけではありません。 ただ、「答えがない状態」を「答えがある状態」へ変えてしまうことがあります。 2026年に公開された研究では、AIを使える人ほど「分かりません」と答える回数が大きく減りました。 しかし、正答率は下がり、自分の回答への自信は高くなっていました。 AIの危険は、間違った答えを出すことだけではありません。 本来なら「未確認」「不明」「要調査」とされるはずだった場所が、整った文章によって見えなくなることです。 「分かりません」は、知識の欠如ではありません。 調査を始める。 詳しい人へ相談する。 判断を延期する。 誤った行動を止める。 そんな役割を持つ、判断の安全装置です。 今回は、AIによって「分からない」が消えると、人間の学習、組織の意思決定、そして社会全体に何が起きるのかを考えます。 参考文献 キアラ・マルコッチャほか(2026)「AIの助言は、誤答でも『分からない』と言う意欲を抑える」※プレプリント アッシャー・コリアト、モリス・ゴールドスミス(1996)「記憶の正確さを調整するメタ認知の監視・制御過程」 マシュー・フィッシャーほか(2015)「インターネット検索は、自分の知識に対する評価を膨らませる」 レオニード・ローゼンブリット、フランク・ケイル(2002)「説明できるという錯覚――人は自分の理解を過大評価する」 エヴァン・リスコ、サム・ギルバート(2016)「認知的オフローディング――思考を外部の道具へ委ねる仕組み」 ジェフリー・カーピック、ヘンリー・ローディガー(2008)「学習における想起の決定的重要性」 ラジャ・パラスラマン、ディートリヒ・マンジー(2010)「自動化を利用するときに生じる慢心とオートメーション・バイアス」 エイミー・エドモンドソン(1999)「職場チームにおける心理的安全性と学習行動」 00:00 - 答えが判断の基準を変える 02:20 - 「分かりません」は安全装置 04:05 - 流暢さが継ぎ目を隠す 06:19 - 空欄は学びの入口 08:22 - 文書が無知を洗浄する 10:46 - 質問の地図を失う社会 13:06 - 「分からない」を守る設計 15:10 - 止まれることも知性