同じ質問でもAIの答えが変わるのはなぜか【ゆっくり解説】

同じ質問をしたのにAIの答えが変わるのはなぜか 挨拶のあとに猫と犬へ分かれる物語の例を見せ 文章を作る基礎から原因を追います 候補を計算することと 1つを選ぶことを分け 選んだ言葉が次の計算へ入る流れを図で説明します 後半では温度と再現性 前の会話による違い 同じ条件で比較する方法を扱います 00:00 同じ質問から猫と犬の物語 00:51 基礎 文章の続きと文字の部品 03:53 本題 同じ候補から違う言葉を選ぶ 07:00 分岐が物語全体へ広がる理由 09:40 温度と答えをそろえる設定 12:07 同じ質問と同じ入力はどう違う 14:12 変化をどう使い分けるか 資料 Amazon Web Services. 推論パラメータでレスポンスの生成に影響を与える. https://docs.aws.amazon.com/ja_jp/bed... Hugging Face. Generation strategies. https://huggingface.co/docs/transform... Hugging Face. Chat templates. https://huggingface.co/docs/transform... Hugging Face. How do Transformers work?. https://huggingface.co/learn/llm-cour... Hugging Face. Text generation. https://huggingface.co/docs/transform... PyTorch. Reproducibility. https://docs.pytorch.org/docs/2.14/no... PyTorch. Numerical accuracy. https://docs.pytorch.org/docs/2.14/no...