【16GB工場 #4】Whisper — 文字起こしは 16GB でどこまで速いか
ローカル生成AI 実測ノート | VRAM16
0:00 / 0:00
【16GB工場 #4】Whisper — 文字起こしは 16GB でどこまで速いか
7 просмотров · 13 дн. назад
ローカル生成AI 実測ノート | VRAM16
5 подписчиков
7 просмотров · 13 дн. назад
VRAM 16GB の GPU(RTX 5080)で、Whisper を実際に動かして測りました。
■ 判定: 合格
・16GB で余裕(VRAM 約3〜6GB)
・30秒を turbo で0.71秒
・turbo は誤り1.8%で約4倍速い
・ブラウザでも WebGPU で2.3秒
・kotoba の ONNX 版は崩れた
・商用: できる(MIT)
■ くわしい数字・設定・動かし方(実測ノート)
https://vram16.ullu-egg.com/models/whisper...
■ チャプター
0:00 つかみ
0:23 今日の品
1:01 入れてみる
1:44 試す
3:01 くらべる
4:15 弱いところ
4:51 判定
5:21 エンディング
■ クレジット
VOICEVOX:ずんだもん・VOICEVOX:四国めたん
立ち絵: 坂本アヒル様
試験に使った日本語の音声は、Irodori-TTS v4-Large で生成した AI による音声です(実在の人の声ではありません)。数字はすべて、RTX 5080(16GB)での実測です。
番組「16GB工場 入荷検査」は、新しいローカル生成AI が 16GB に入るか・どれだけ速いか・どこで崩れるかを検品します。
測定と台本づくりには AI(Claude)を使い、数字はすべて手元の実測です。
#ローカル生成AI #VRAM16GB #RTX5080