なぜチャットは動くのに、コーディングAIは家で動かないのか|DeepSeekがMITで公開【ゆっくり解説】
サルでもわかるAIにゅーす速報【ゆっくり解説】
0:00 / 0:00
なぜチャットは動くのに、コーディングAIは家で動かないのか|DeepSeekがMITで公開【ゆっくり解説】
9 953 просмотра · 7 дней назад
サルでもわかるAIにゅーす速報【ゆっくり解説】
5,62 тыс. подписчиков
9 953 просмотра · 7 дней назад
おしゃべりするAIは自分のパソコンで動いたのに、コードを書かせるAIだけ使い物にならない。
同じモデルなのに、なぜこうなるのでしょうか。
ファイルを一つ直すよう頼んだだけで二十分たっても終わらない。
途中で括弧だらけの文字列を吐いて黙り込む。
日本語のブログを探すと、同じ挫折の記事があちこちに並んでいます。
原因はモデルが馬鹿だからではありませんでした。
チャットは一往復で終わりますが、コーディングのAIは一つの仕事で中で何十回もモデルを呼びます。
しかもモデルには記憶の仕組みが無いので、そのたびに指示書と道具の説明と会話の履歴を全部読み直します。
さらに厄介なのは、世に出ている「毎秒何トークン」という数字が書くほうの速さでしかないことです。
エージェントで効くのは読むほう(プリフィル)で、そこの速さはほとんど公開されていません。
チャットの体感が当てにならない理由が、ここにあります。
この動画では、決めているのは「往復の回数 × 一往復の遅さ × 失敗率」という掛け算だと整理したうえで、
家で動かない四つの壁を一つずつほどきます。
そして2026年8月13日にDeepSeekがMITで公開した「ハーネス(道具立て)」が、
この構造のどこに効いて、どこには効かないのかまで追いかけます。
■ この動画で出てくる主な数字
・Qwenのコーダー向け14B … 毎秒6.71トークン / 同7B … 毎秒12.67トークン
(Mac mini M1・メモリ16ギガでの個人の実測)
・接続した道具の定義だけで、1リクエストあたり数万トークンになりうる
・信頼できる道具呼び出し(JSON)が出てくるのは、パラメータ7B〜9Bあたりから
・必要メモリの目安 … 9B(4ビット)6〜8ギガ / 27B〜35B 20〜24ギガ / 80B MoE 35〜48ギガ
・コンテキスト長 … 家側32K 対 クラウド側200K(比較元のブログの設定)
・道具側のタイムアウト … 30秒で打ち切られる
・投機的デコードで書くほうが1.5〜3倍 / KVキャッシュを8ビットにすると占有がおよそ半分
・DeepSeek Harness … 2026年8月13日公開・MITライセンス・8月24日時点でおよそ19万スター
・クラウドに払う額の一例 … 合計 月9000円
(Claude Pro 3000円 / GitHub Copilot 1500円 / ChatGPT 1400円 / Gemini 3000円)
■ 目次
0:00 チャットは動いたのに、二十分たっても終わらなかった
1:54 一つ直すだけで何十回 ―― コーディングAIの往復の多さ
3:59 下読みと書き出し ―― 毎秒何トークンは「書くほう」の速さでしかない
6:03 渡す山はなぜ巨大になり、なぜ毎回読み直すのか
8:11 賢さではなく書式で転ぶ ―― 壊れた道具呼び出しと7B〜9Bの線
10:20 32Kと200K ―― 入り口で満員になる壁と、30秒の締め切り
12:25 ハーネスとは何か ―― 道具そのものがMITで公開された
14:35 家のモデルに繋ぐ ―― OpenAI互換の接続先と四つの構え
16:56 それでも残る壁に効く三つの手 ―― 使い回し・下書き・8ビット
18:59 クラウドに払うか自前で買うか ―― 両論と、持ち帰る三つ
■ お断り
・DeepSeek Harness の構成や接続先はDeepSeek側の説明であり、第三者が性能を評価した数字ではありません。
・スター数は毎日動くため「2026年8月24日時点」と時点を添えています。GitHubのAPIで直接取得した値です。
・キャッシュの使い回し98.2%という数字はXでの個人の運用報告であり、こちらで同じ条件を再現できていません。
・「7B〜9Bから道具呼び出しが安定する」は解説記事の筆者の観察であって、公式に測定された数字ではありません。
・速度とメモリの実測値は、機材も条件もそれぞれ違う個人の計測です。そのまま一般化できるものではありません。
・クラウド課金と自前、大きいモデル一本と大小の組み合わせについては、
使い方で答えが変わるため結論を一つに断定していません。両方の言い分を数字で並べています。
■ 主な参考資料
・deepseek-ai/deepseek-harness (公式リポジトリ) https://github.com/deepseek-ai/deepse...
・InfoQ「DeepSeek Harness」 https://www.infoq.com/news/2026/08/de...
・The New Stack https://thenewstack.io/deepseek-harne...
・Speed up your local coding agent https://llmconfigurator.com/en/guides...
・Local LLM agentic coding https://braindetox.kr/en/posts/local_...
・Zenn「ローカルLLMでコーディングエージェントの夢を見て挫折した話」 https://zenn.dev/konto/articles/0bc16...
・きしだのHatena https://nowokay.hatenablog.com/entry/...
この動画は独自に調査した内容をもとに構成しています。図解もすべて独自に作成したものです。
チャンネル登録・高評価をいただけると励みになります。
家でコーディングのAIを動かしている方は、何のモデルとどの道具を使っているか、
クラウドには月いくら払っているか、コメントで教えてください。
#ゆっくり解説 #AI #ローカルLLM #ローカルAI #コーディングAI #AIエージェント #DeepSeek #Qwen #Claude #GitHubCopilot #生成AI #プログラミング