AIに任せる前に知っておきたい「漏れる・壊れる」リスクと対策【総論編】

----------------------------------------------------------------------- AIに任せる前に、「渡してよい情報」と「許してよい操作」を決めましょう。 結論だけ先に知りたい方は 02:24 へ。詳しい分類や比較は、その後の図表で説明します。 AI利用で困る二つのリスク――情報漏洩と、情報の劣化・破損・修復不能――を整理します。 チャット型とエージェント型、ローカルとクラウドでは何が違うのか。さらに、AIの「頭脳」と「手」の場所によって、被害が及ぶ範囲がどう変わるのかを見ていきます。 覚えておきたい基本は五つです。 ・外に出せない情報はクラウドAIに渡さない ・権限は最小限にする ・壊れてもよい場所で動かす ・取り消せない操作は人が確認する ・作者不明の拡張機能やノードは入れない 具体的な設定方法は、続く「Codex編」「Claude Code編」で紹介予定です。 【チャプター】 00:00 自律型AIは信頼できる相棒か？ 00:32 AIの種類と使う場所 00:53 チャット型とエージェント型の違い 01:25 ローカルとクラウドの違い 02:24 先に結論：情報と操作を守る基本 02:59 情報漏洩の8分類 05:19 情報漏洩：四つのエリアを比較 07:59 情報の劣化・破損・修復不能の11分類 08:37 文書編集を任せるリスクと原本照合 11:47 情報破損：四つのエリアを比較 14:35 頭脳と手の場所で変わる被害の範囲 16:18 まとめと次回の設定編 【動画内で紹介した研究】 Philippe Laban, Tobias Schnabel, Jennifer Neville “LLMs Corrupt Your Documents When You Delegate” （2026） https://arxiv.org/abs/2604.15597 ※表の「リスク度」は、この動画で整理した分類の該当数です。被害の大きさや発生確率を示す数値ではありません。実際の範囲は、通信・権限・連携・実行環境によって変わります。 ※ローカルで動かす場合も、アプリや連携機能の外部通信は別途確認が必要です。 #AIエージェント #AIセキュリティ #ローカルAI 🌱 老後AI（RogoAI）について アラセブンティーの私が、見よう見まねで最新AIを試していく記録チャンネルです。 ぜひチャンネル登録・高評価で応援していただけると嬉しいです。 ▶    / @seniorai-japan   📌 管理用: 【セキュリティ_004】260108公開 -----------------------------------------------------------------------