課金0円のローカルAI|PrismML Bonsai、iPhone 17で入れるだけ。どこまで使えるか試した
やさしいAI
0:00 / 0:00
課金0円のローカルAI|PrismML Bonsai、iPhone 17で入れるだけ。どこまで使えるか試した
248 просмотров · 2 мес. назад
やさしいAI
233 подписчика
248 просмотров · 2 мес. назад
外に出せない書類を、まだ全部自分の目で読んでいませんか。iPhone 17 の中だけで動くローカルAI「Bonsai」を入れて、どこまで任せられるかを7つの場面で試しました。課金は0円、アプリを入れてモデルを選ぶだけです。
前回このチャンネルで紹介したときは「手順は開発者寄り」と言いましたが、あれは訂正します。App Store の「Locally AI」に対応済みで、Mac も Xcode も開発者アカウントも要りませんでした。
「AI採用会議」は、AIで番組を作っている現場が、話題のAIを実機で試して、自分の使い方を決めるところまでを報告する番組です。
▼ 私が決めた使い方
文章は書かせない。書類を読ませる。
・書類から必要なところを抜き出す用途だけにする
・Word と Excel は PDF に書き出してから渡す
・長い文章は任せない
▼ 7つの場面でわかったこと
・270億の1bit版(27B)は iPhone 17 無印には出てこない。選べたのは 8B が2個だけ(Apple は RAM 非公表。開発者向け情報では Pro が12GB、無印が8GB/モデルの展開サイズは約3.9GB)
・300字で、と指示して返ってきたのは420字。温度を変えて3回試しても1.4〜1.8倍で、字数の指示は通らなかった
・3000字以上・章立て、と指示したら同じ段落を15回以上コピーして字数だけ揃えてきた。温度を上げてもやり方が変わるだけで直らない
・学習の例と推論の例が同じ文章だった(推論の例の中に「学習の結果」と書いてある)
・書類からの抜き出しは、600字・3000字・1万4千字の3つとも8項目すべて正解。24問中24問。1万4千字でも真ん中の情報を落とさなかった
・PDF も CSV も8問正解。しかも通信していないので、端末の外に情報は一度も出ていない
・Excel と Word はファイル選択画面に出てこない。PDF に書き出せば読めて、結果は満点だった
・画像は「ビジョン対応が必要」と出て選べない。同じアプリの Gemma 4 と Qwen 3.5 にはビジョンの表示が付いている
測定条件:iPhone 17(無印・8GB)/アプリ=Locally AI/モデル=Bonsai 8B/各場面で同じ指示・設定は既定のまま。書類は架空の議事録を自作(中身の8項目は同じで長さだけ変えたもの)。
▼ 測れていないこと
・10分を超える連続稼働
・軽い1.2GB版でも同じ繰り返しが出るのか
・表や言いかえを含む実務の書類での精度
発熱は、長文を2回書かせて「少し熱い」くらいでした。
▼ 目次
0:00 結論。文章は書かせない。書類を読ませる
0:22 試した七つの場面
0:48 今日の主役 PrismML Bonsai
0:58 「開発者寄り」と言ったのは訂正します
1:09 ① 270億は動くのか(無印で選べたのは8B)
1:33 ② 300字と指示して420字
2:06 ③ 同じ段落を15回コピーしてきた
2:35 学習の例と推論の例が同じ文章だった
2:59 ④ 書類から8項目の抜き出し(24問中24問)
3:46 ⑤ PDF も CSV も正解。通信は一度もしていない
4:17 ⑥ Excel と Word は添付できない(回避策あり)
4:33 ⑦ 画像は読めない
5:00 測れていないこと
5:21 結論。この使い方だけにします
5:34 用途別の3分岐
▼ 今日の持ち帰り
・App Store で「Locally AI」を入れる(無料・iOS 18.1 以降)
・モデル管理から Bonsai を選ぶ(対応機種にだけ出ます)
・渡すのはテキストか PDF か CSV。Word と Excel は PDF に書き出してから
・字数を決めて書かせる仕事には使わない
▼ 出典
PrismML 公式発表(Bonsai 27B)
https://prismml.com/news/bonsai-27b
モデルカード(Hugging Face / MLX 1bit)
https://huggingface.co/prism-ml/Bonsa...
Locally AI(App Store)
https://apps.apple.com/us/app/locally...
iPhone 17 の RAM(Apple 非公表・開発者向け情報より)
https://www.macrumors.com/2025/09/09/...
▼ このチャンネルについて
「AI採用会議」は、AIで番組を作っている現場が、話題のAIを実機で試して採用判定する番組です。
同じチャンネルで、16GBのMacで無料AIを動かす実機検証も公開しています。
音声: VOICEVOX:青山龍星 (https://voicevox.hiroshiba.jp/)
本動画は合成音声を使用しています。判定の最終責任は運営者(人間)にあります。
#ローカルAI #iPhone17 #Bonsai #無料AI #生成AI