Перейти к содержимому

プロンプトエンジニアリング、ほんとに終わったの?

庵田あぴ / API IOTA

0:00 / 0:00

プロンプトエンジニアリング、ほんとに終わったの?

158 просмотров · 4 дня назад
庵田あぴ / API IOTA
73 подписчика
158 просмотров · 4 дня назад
プロンプトエンジニアリングは終わった、って言われるようになったけど、実際どうなの、を一次ソースから掘り下げる回。(1)2020年のGPT-3で「訓練し直さなくても文章に例を書くだけで仕事を教えられる」ようになった出発点、(2)2022年のRLHFと「一緒に順番に考えてみよう」の一言で正解率が跳ね上がった実験、(3)推論モデルが内部で自動的に考えるようになって「終わった」と言われ始めた理由、(4)2025年に広まったコンテキストエンジニアリングが実際に何を広げたのか、の4段階でたどる。 ▼ 目次 0:00 プロンプトエンジニアリングは終わってない 0:41 指示文で仕事を教える、の始まり 2:15 書き方ひとつで性能が変わった時代 4:13 なぜ「終わった」と言われ始めた? 5:49 広がったのは、AIが見る情報 8:25 キミの指示文は、今どっち? ■ 出典 GPT-3論文「Language Models are Few-Shot Learners」(Brown et al. 2020、NeurIPS): 訓練し直さずプロンプト内の指示・例で新しい仕事を学習できること、モデルが大きいほど少数例の効果が大きいこと(独立した複数の論文レビュー記事・NeurIPS公式論文で確認) InstructGPT論文「Training language models to follow instructions with human feedback」(Ouyang et al. 2022、OpenAI): 人の評価を使ったRLHFでモデルが指示に従うようになった経緯(複数の独立したレビュー記事で確認) Kojima et al. 2022「Large Language Models are Zero-Shot Reasoners」: 「Let's think step by step」の一言でInstructGPTのMultiArith正解率が17.7%→78.7%に上がった実験(Lilian Weng氏のブログ記事ほか複数の独立したレビュー記事で確認) Anthropic公式エンジニアリングブログ「Effective context engineering for AI agents」(anthropic.com/engineering): プロンプトエンジニアリングとコンテキストエンジニアリングの定義の違い、コンテキストエンジニアリングが前者の延長線上にあるという位置づけ、compaction・メモ・サブエージェント・ツール設計の4手法(WebFetchで直接取得) コンテキストエンジニアリングの用語の広まり(Andrej Karpathy、Shopify CEO Tobi Lütke、Gartnerの言及): 複数の独立した記事で確認 プロンプトエンジニアの求人・年収(2023年、最高提示33万5千ドル): Forbes・TIME等の複数の独立した報道で確認 #プロンプトエンジニアリング #コンテキストエンジニアリング #AI ――――――――――――――――――― 【このチャンネルについて】 AIを使いこなすギャルが、Claude Code などのAIを実際に動かして、ソフトウェアエンジニアリングの「なぜ」を確かめるチャンネルです。 「AIに任せたチャンネルは半年で収益化できるか」を公開で記録しています。 ▼ 投稿スケジュール ・実験(AIを実際に動かして確かめる): 毎週水曜17時 ・解説: 毎週日曜17時 ・ショート: 毎日7時 チャンネル登録はこちら    / @api-iota   ※本動画は企画・台本・編集にAIを活用しています。ナレーションはAI音声です。