Перейти к содержимому

課金0円のローカルAI|PrismML Bonsai、iPhone 17で入れるだけ。どこまで使えるか試した

やさしいAI

0:00 / 0:00

課金0円のローカルAI|PrismML Bonsai、iPhone 17で入れるだけ。どこまで使えるか試した

248 просмотров · 2 мес. назад
やさしいAI
233 подписчика
248 просмотров · 2 мес. назад
外に出せない書類を、まだ全部自分の目で読んでいませんか。iPhone 17 の中だけで動くローカルAI「Bonsai」を入れて、どこまで任せられるかを7つの場面で試しました。課金は0円、アプリを入れてモデルを選ぶだけです。 前回このチャンネルで紹介したときは「手順は開発者寄り」と言いましたが、あれは訂正します。App Store の「Locally AI」に対応済みで、Mac も Xcode も開発者アカウントも要りませんでした。 「AI採用会議」は、AIで番組を作っている現場が、話題のAIを実機で試して、自分の使い方を決めるところまでを報告する番組です。 ▼ 私が決めた使い方 文章は書かせない。書類を読ませる。 ・書類から必要なところを抜き出す用途だけにする ・Word と Excel は PDF に書き出してから渡す ・長い文章は任せない ▼ 7つの場面でわかったこと ・270億の1bit版(27B)は iPhone 17 無印には出てこない。選べたのは 8B が2個だけ(Apple は RAM 非公表。開発者向け情報では Pro が12GB、無印が8GB/モデルの展開サイズは約3.9GB) ・300字で、と指示して返ってきたのは420字。温度を変えて3回試しても1.4〜1.8倍で、字数の指示は通らなかった ・3000字以上・章立て、と指示したら同じ段落を15回以上コピーして字数だけ揃えてきた。温度を上げてもやり方が変わるだけで直らない ・学習の例と推論の例が同じ文章だった(推論の例の中に「学習の結果」と書いてある) ・書類からの抜き出しは、600字・3000字・1万4千字の3つとも8項目すべて正解。24問中24問。1万4千字でも真ん中の情報を落とさなかった ・PDF も CSV も8問正解。しかも通信していないので、端末の外に情報は一度も出ていない ・Excel と Word はファイル選択画面に出てこない。PDF に書き出せば読めて、結果は満点だった ・画像は「ビジョン対応が必要」と出て選べない。同じアプリの Gemma 4 と Qwen 3.5 にはビジョンの表示が付いている 測定条件:iPhone 17(無印・8GB)/アプリ=Locally AI/モデル=Bonsai 8B/各場面で同じ指示・設定は既定のまま。書類は架空の議事録を自作(中身の8項目は同じで長さだけ変えたもの)。 ▼ 測れていないこと ・10分を超える連続稼働 ・軽い1.2GB版でも同じ繰り返しが出るのか ・表や言いかえを含む実務の書類での精度 発熱は、長文を2回書かせて「少し熱い」くらいでした。 ▼ 目次 0:00 結論。文章は書かせない。書類を読ませる 0:22 試した七つの場面 0:48 今日の主役 PrismML Bonsai 0:58 「開発者寄り」と言ったのは訂正します 1:09 ① 270億は動くのか(無印で選べたのは8B) 1:33 ② 300字と指示して420字 2:06 ③ 同じ段落を15回コピーしてきた 2:35 学習の例と推論の例が同じ文章だった 2:59 ④ 書類から8項目の抜き出し(24問中24問) 3:46 ⑤ PDF も CSV も正解。通信は一度もしていない 4:17 ⑥ Excel と Word は添付できない(回避策あり) 4:33 ⑦ 画像は読めない 5:00 測れていないこと 5:21 結論。この使い方だけにします 5:34 用途別の3分岐 ▼ 今日の持ち帰り ・App Store で「Locally AI」を入れる(無料・iOS 18.1 以降) ・モデル管理から Bonsai を選ぶ(対応機種にだけ出ます) ・渡すのはテキストか PDF か CSV。Word と Excel は PDF に書き出してから ・字数を決めて書かせる仕事には使わない ▼ 出典 PrismML 公式発表(Bonsai 27B) https://prismml.com/news/bonsai-27b モデルカード(Hugging Face / MLX 1bit) https://huggingface.co/prism-ml/Bonsa... Locally AI(App Store) https://apps.apple.com/us/app/locally... iPhone 17 の RAM(Apple 非公表・開発者向け情報より) https://www.macrumors.com/2025/09/09/... ▼ このチャンネルについて 「AI採用会議」は、AIで番組を作っている現場が、話題のAIを実機で試して採用判定する番組です。 同じチャンネルで、16GBのMacで無料AIを動かす実機検証も公開しています。 音声: VOICEVOX:青山龍星 (https://voicevox.hiroshiba.jp/) 本動画は合成音声を使用しています。判定の最終責任は運営者(人間)にあります。 #ローカルAI #iPhone17 #Bonsai #無料AI #生成AI