20分鐘看完OpenAI如何訓練Agent：柏克萊公開課程

大家好，我是 Jim，這裡是 AI Notebook。訓練一個像 ChatGPT 的模型，一次要動用一萬六千張頂級顯卡，連燒七十天。大家都在聊 agent，也就是會自己動手做事的 AI，卻幾乎沒人講它是怎麼被訓練出來的。剛好柏克萊開了一堂公開課講的正是這個，而講者，就是在 OpenAI 帶隊訓練這類模型的人。兩小時的課，我用二十分鐘把核心整理給你。分三段，第一段，一個無所不知的模型其實只會一件事。第二段，你會看到怎麼把整個網路洗成教材。第三段，你會看到 AI 怎麼學會作弊，直接把考卷改成全對。那我們直接開始。 📎 資料來源 • Yann Dubois — Intro to training LLMs (UC Berkeley LLM Agents MOOC)    • Agentic AI MOOC | UC Berkeley CS294-196 Fa...   • DeepSeek-R1 (arXiv) https://arxiv.org/abs/2501.12948 • Kimi K2: Open Agentic Intelligence (arXiv) https://arxiv.org/abs/2507.20534 • Chinchilla — Training Compute-Optimal LLMs (arXiv) https://arxiv.org/abs/2203.15556 • The Bitter Lesson — Rich Sutton http://www.incompleteideas.net/IncIde... • FineWeb (HuggingFace) https://huggingface.co/datasets/Huggi... --- Jim AI Notebook | Note the Future 每日深度解析 AI 最新進展 #AI #LLM #訓練 #預訓練 #強化學習 #OpenAI #DeepSeek #AINotebook