関西AI開発オタク交流会で展示してきた｜こたうちのミライのメガネ #018

今回、京都で開催された「関西AI開発オタク交流会」に展示側として参加してきました！！ https://connpass.com/event/394678/ 持っていったのは、以前から作っている Rokid Local LLM Assistant という自作プロダクトです。 簡単に言うと、Rokid Glassesに話しかけると、音声認識 → LLMによる回答生成 → 音声合成まで行って返事をしてくれる、スマートグラス用の音声AIアシスタントです。 文字起こしにはReazonSpeech、回答生成にはQwen 3.5 0.8B系のモデル、音声合成にはOpen JTalkを使っています。 ただ、今回の面白いところは「AIが返事する」ことではなくて、それを全部Rokid Glasses本体の中で動かしているところです。 Rokid Glassesはメモリが約2GBしかなく、実際に使える領域はさらに少ない。その中で音声認識・LLM推論・音声合成まで全部押し込んでいます。 普通「ローカルLLM」と聞くと、RTX 5090や大容量Mac Studioみたいな強いマシンを想像する人も多いと思うんですが、今回のはスマホやPCへのオフロードなし。Snapdragon AR1と限られたメモリだけで動かしています。 そして、このマニアックさなら「AI開発オタク交流会なら伝わるだろう」と思って持っていったんですが…… また、今回は、せっかくだからということでスマートグラスを7台ほど持っていきました。 Rokid Glasses、Rokid AI Glasses Style、Rokid Max 2、VITURE Beast、HTC VIVE Eagle、INMO Air 2、GUIDE 01など、一通り違うタイプを持ち込みました。 結果、完全にスマートグラス体験会になってしまいました（笑） Rokid Glassesを気に入って、その日のうちに購入した方までいて、また1人スマートグラス沼に落としました。 最新のスマートグラスのニュースはXで！！ https://x.com/kotauchisunsun 質問箱にて質問募集中です！！ https://note.com/qa/kotauchisunsun 週刊「世界のスマートグラスのニュース」 https://note.com/kotauchisunsun/m/mf5... スマートグラスの動向と考察 2025年版 https://techbookfest.org/product/x1HQ... 00:00 OP・関西AI開発オタク交流会で展示してきた 00:27 関西AI開発オタク交流会とは？ 01:33 Rokid Local LLM Assistantを展示 01:51 スマートグラス上で動く音声AIアシスタント 02:53 音声認識・Qwen・Open JTalkの構成 04:16 「これ、伝わらなかったかも」 05:13 「ローカルLLMはどこで動いてる？」問題 06:04 実は全部Rokid Glassesの中で動いている 06:23 2GBメモリ・Snapdragon AR1でLLMを動かす 07:41 応答に10〜15秒かかる理由 08:44 1.7GBのメモリとの戦い 09:21 音声合成でOOM Killerに落とされる 10:05 メモリに載せず音声を再生する工夫 10:54 スマートグラスを7本持っていった 11:40 「7台あって何が違うの？」問題 12:01 有線・カメラ・単色・カラーを一通り比較 12:55 変わり種のGUIDE 01 13:20 ドラゴンボールのスカウターを置いた結果 14:12 自作キーボードとスマートグラスをデバッグ 14:47 Even G2ユーザーもいた 15:06 Rokid Glassesを布教したらその日に購入者が 16:59 ローカルLLM展示がスマートグラス体験会に 18:13 他の人の展示を全く見られなかった 18:48 スマートグラス展示は一人だと大変 19:02 大阪でスマートグラス体験会をやりたい、でも… 20:17 体験会を開く目的って何だろう 21:02 二次会でAI開発オタクと交流 21:32 MacでローカルLLMを動かす話 23:58 「狭く深く」と「広く浅く」 24:13 前提知識を説明しなくていい会は楽 24:31 一般向け展示は説明NPCになりがち 25:30 技術的なこだわりまで話せない問題 26:01 狭く深い会ならオタク話に直行できる 27:21 でも自分はスマートグラス説明NPCだった 27:33 本来のLLMデモを体験した人は10人未満？ 28:02 7台あると回転率が悪すぎる 28:37 そもそも会の趣旨を読み違えていた 29:12 展示スペースを用意してもらって助かった 29:36 20人規模の会に持って行きすぎた 29:59 設営も撤収も時間がかかる 31:22 総括・他の人の展示を見たかった 31:53 AIイベントは主催者によって色が違う 33:33 ローカルLLM展示のつもりがスマートグラス体験会になった 34:16 ED #関西AI開発オタク交流会 #生成AI #AI開発 #LLM #ローカルLLM #LocalLLM #Qwen #ReazonSpeech #OpenJTalk #音声認識 #音声合成 #ASR #TTS #Rokid #RokidGlasses #RokidAIGlasses #RokidMax2 #スマートグラス #AIグラス #ARグラス #XR #AR #SnapdragonAR1 #オンデバイスAI #オンデバイスLLM #VITURE #VITUREBeast #HTC #VIVEEagle #INMO #INMOAir2 #GUIDE01 #EvenG2 #ドラゴンボール #スカウター #個人開発 #技術展示 #AI勉強会 #京都 #京都経済センター #メモリ最適化 #OOM #OOMKiller #組み込みAI #エッジAI #MacStudio #MLX #Metal #CUDA #AI駆動開発 #MCP #Claude #Codex #ガジェット #ポッドキャスト #PodCast #ミラメガ #こたうち企画