ローカルLLMが主役に：パラメータ競争から道具の使い方へ

AIの性能競争はパラメータ数の拡大から、道具をうまく使うループづくりへと移っている——という現状認識から話は始まります。知識はすぐ古くなるため、リアルタイムの情報は検索で取り、賢いモデルが計画を立てて実行とやり直しを回す。その役割分担が重要になっているという整理です。 ▼ 中国製モデルとローカルLLM Kimi K3、Qwen3.8-27B、DeepSeek V4.1 Flash、GLM5.3 などの名前が挙がり、知識は少なくても道具の使い方がうまいコンパクトなモデルが、手元のGPUで動くようになったと説明されます。Mixture of Experts でGPU・メモリ・SSDにリソースを分散させる話や、GPU価格が上がって資産性まで出てきているという話も。 ▼ 用途ごとに使い分ける 翻訳は安いGPUで、プログラミングは中くらいのスキルと上手いマネージャー役で、というように、高いGPUを最初から最後まで使わなくてもよい時代に。化学・自動車・金融など分野ごとに特化すれば10分の1のコストで済むという見立てと、それによって企業がデータを外部クラウドに出さずに処理できるようになるという話をしています。 ▼ 今後の見通し ローカルLLMはコストが低く、クラウドが使えなくなっても困らないのが強み。ただし半年後・1年後は想像がつかないとも語っています。 ▼ 目次 0:00 AIの使い方のフェーズ 0:41 パラメータ数競争の終わり 2:15 検索と道具で補うループ 3:29 Kimi・Qwenなど中国製モデル 5:04 ローカルLLMとGPU価格 5:51 DeepSeekとリソース分散 7:29 用途別のGPU使い分け 10:06 分野特化でコスト10分の1 11:55 GPU売り切れと自社の構成 13:21 おすすめのローカルモデル 15:19 身の回りの仕事には十分 16:10 1年後の見通しは不明 #ローカルLLM #生成AI #Qwen #DeepSeek #GPU