【クラウド不要】ローカルLLMで音声AIアシスタント作ってみた #2 完全ローカル構成とデモ

2026年9月時点の最新構成と選定理由の全体像はこちら →    • 【完全ローカルAI】ローカルLLMで作る日本語音声アシスタント 2026年版 — 構...   完全にローカル環境で動作する音声対話AIシステムを構築しました。 インターネット接続不要、プライバシーを守りながらAIと音声で会話できます。 「さくら」と呼びかけるだけで、AIが音声で応答します。 ウェイクワード検出から音声認識、AI応答生成、音声合成まで、 すべての処理がローカルPCで完結しています。 ▼ 使用技術 ・RustPotter - ウェイクワード検出（Rust製、CPU動作、50ms以下の低遅延） ・Whisper (whisper.cpp) - 音声認識（日本語対応、mediumモデル） ・Ollama (Llama 3.1 8B) - LLM応答生成（量子化Q4_K_M、ローカル実行） ・VOICEVOX - 音声合成（高品質な日本語音声） ▼ スペック目安 ・処理時間: 約10秒（音声入力〜応答出力） ・メモリ: 8GB以下 ・インターネット: 不要 ▼ チャプター 0:00 オープニング 0:40 デモ - 実際に動かしてみる 2:12 システム全体像 - アーキテクチャ解説 3:02 RustPotter - ウェイクワード検出 3:26 Whisper - 音声認識 3:50 Ollama - ローカルLLM 4:20 VOICEVOX - 音声合成 4:48 現状の課題と改善の方向性 5:51 まとめ・次回予告 ▼ シリーズ AIコンシェルジュをつくろう - Episode 2 次回: 会話の記憶の実装 #AI #音声対話 #ローカルLLM #Whisper #Ollama #VOICEVOX #自作AI #プライバシー