「AIは嘘をつくから仕事に使えない」は本当か？｜AIの嘘は“設計”でかなり防げる

▶ AI導入を相談する（初回のご相談は無料） https://gembashift.com/?utm_source=yo... 社内の資料で答えるAIを試したら、ないはずの数字や少し違う手順を、自信満々に答えてきた。 「これ、嘘言いますよね」の一言で、AI導入が止まってしまう。本当によくある景色です。 でも、AIの嘘は設計でかなり防げます。 なぜAIは嘘をつくのか。仕事で使えるAIにするには何が必要なのか。GembaShift代表の黛が3つに分けてお話しします。 ────────── 【チャプター】 00:00 オープニング｜「これ、嘘言いますよね」でAI導入が止まる 01:17 1. AIの嘘は、性格の問題ではない（正体は「穴埋め」） 02:45 └ 穴埋めが起きやすい3つの場面（言葉の揺れ／文脈の切れ／似た情報） 03:46 2. お願いではなく、嘘をつけない仕組みにする（回答前の3つの関門） 04:22 └ 落とし穴：AIに出典を書かせるだけでは危ない 05:58 3. ゼロにならない前提で、使い方を決める 06:21 └ 数字の照合はAIではなく普通のプログラムに 07:59 └ 最初から全部をAIに任せない 08:33 まとめ｜今日すぐにできる確認 ────────── 【この動画のポイント】 ① AIの嘘の正体は、手元の情報が足りないときの「穴埋め」。嘘の量はAIの性格ではなく、渡す情報の作り方で決まる ② 「嘘をつかないで」とお願いするのではなく、嘘をつけない仕組みに。資料にあることだけで答える／根拠は資料の側から機械的に添える／書いていなければ「ありません」と答える ③ それでも間違いはゼロにならない前提で、使い方を決める。数字や型番の照合は普通のプログラムに、最初は人が確認して少しずつ任せる 【今日すぐにできる確認】 AIに嘘をつかれた質問を3つ思い出し、その正しい答えが「どの資料のどこ」に書いてあるか、人が言えるか試してみてください。 言えるなら、その嘘は仕組みで防げます。言えないなら、嘘の問題ではなく、その手前の資料の整理の問題です。 ────────── 【動画内の表示について】 ・AIチャットの画面・やりとり・資料・型番・グラフ・割合はイメージです ・判例名は架空の例です（米国で、AIが作った実在しない判例を裁判所に提出した弁護士が処分を受けた件は2023年の実際の出来事です） ・写真はイメージです ・図の一部は note「『嘘をつけないAI』は、作れます」から引用しています ────────── 【元になったnote】 「嘘をつけないAI」は、作れます https://note.com/gembashift/n/n146fe9... 半年AIを使った会社が、最初に「要らない」と言いだしたもの https://note.com/gembashift/n/n4a9abd... 【社内ナレッジAI（GembaShift）】 https://gembashift.com/knowledge-ai?u... 【関連動画】 社内ナレッジAIとは｜社内の資料を“根拠つき”で数秒で引くAIの仕組み    • 社内ナレッジAIとは｜社内の資料を“根拠つき”で数秒で引くAIの仕組み・実績・進め方   AIを入れたのに社内で使われない会社の共通点3つ    • 「使ってください」では使われない｜AIを入れたのに社内で使われない会社の共通点3つ   企業のAI導入でよく見る“罠”3選    • Copilotを入れても本業でAIが使えない理由｜企業のAI導入でよく見る“罠”3選   【メルマガ】AI活用の一次情報を、週まとめでお届けします https://gembashift.substack.com/ ────────── GembaShiftは「企業の現場にAIを入れる」会社です。 #生成AI #AI導入 #ハルシネーション #社内ナレッジ #業務改善 #DX #製造業