【16GB工場 #12】Gemma 4 26B — 17GB の LLM は 16GB で動くか

VRAM 16GB の GPU（RTX 5080）で、Gemma 4 26B を実際に動かして測りました。 ■ 判定: 合格 ・16GB: Ollama の既定のままで動く ・約26%をメインメモリへ・毎秒約84 ・文脈 128k でも毎秒約63 ・長い入力 約7,300トークンを約3秒 ・考えると答えまで約23秒 ・商用: 可（Apache 2.0） ■ くわしい数字・設定・動かし方（実測ノート） https://vram16.ullu-egg.com/models/gemma4-... ■ チャプター 0:00 つかみ 0:19 今日の品 0:53 入れてみる 1:27 試す 2:25 くらべる 3:35 限界 4:21 判定 4:50 エンディング ■ クレジット VOICEVOX:ずんだもん・VOICEVOX:四国めたん 立ち絵: 坂本アヒル様 この回は数字だけの回で、AI が作った絵・音の見本はありません。測ったモデルは Gemma 4 26B（Google DeepMind・Apache 2.0）。くわしい数字は実測ノートの記事にあります。 番組「16GB工場 入荷検査」は、新しいローカル生成AI が 16GB に入るか・どれだけ速いか・どこで崩れるかを検品します。 測定と台本づくりには AI（Claude）を使い、数字はすべて手元の実測です。 #ローカル生成AI #VRAM16GB #RTX5080