Перейти к содержимому

【16GB工場 #4】Whisper — 文字起こしは 16GB でどこまで速いか

ローカル生成AI 実測ノート | VRAM16

0:00 / 0:00

【16GB工場 #4】Whisper — 文字起こしは 16GB でどこまで速いか

7 просмотров · 13 дн. назад
ローカル生成AI 実測ノート | VRAM16
5 подписчиков
7 просмотров · 13 дн. назад
VRAM 16GB の GPU(RTX 5080)で、Whisper を実際に動かして測りました。 ■ 判定: 合格 ・16GB で余裕(VRAM 約3〜6GB) ・30秒を turbo で0.71秒 ・turbo は誤り1.8%で約4倍速い ・ブラウザでも WebGPU で2.3秒 ・kotoba の ONNX 版は崩れた ・商用: できる(MIT) ■ くわしい数字・設定・動かし方(実測ノート) https://vram16.ullu-egg.com/models/whisper... ■ チャプター 0:00 つかみ 0:23 今日の品 1:01 入れてみる 1:44 試す 3:01 くらべる 4:15 弱いところ 4:51 判定 5:21 エンディング ■ クレジット VOICEVOX:ずんだもん・VOICEVOX:四国めたん 立ち絵: 坂本アヒル様 試験に使った日本語の音声は、Irodori-TTS v4-Large で生成した AI による音声です(実在の人の声ではありません)。数字はすべて、RTX 5080(16GB)での実測です。 番組「16GB工場 入荷検査」は、新しいローカル生成AI が 16GB に入るか・どれだけ速いか・どこで崩れるかを検品します。 測定と台本づくりには AI(Claude)を使い、数字はすべて手元の実測です。 #ローカル生成AI #VRAM16GB #RTX5080