(あなたも標的) AI時代の新しい攻撃。プロンプトインジェクションとは

白い背景に白い文字――人間には見えないけど、AIには丸見えの「隠し命令」が、いま世界中で問題になっています。 なぜAIは、こんな単純なトリックに引っかかってしまうのか? 答えは、AIには「命令」と「ただの文字」を区別する仕組みがまだ無いから。SQLインジェクションが20年以上かけて治療法を確立したのと同じ構造の病気が、AIという新しい体で再発しているのです。 この動画では、AI時代の最大級の脆弱性「プロンプトインジェクション」を文系の人でも分かるように、 なぜ穴ができるのか\n古典的事例との違い 見えない命令の間接攻撃 AIエージェント時代のリスク という4つの柱で、履歴書ハックや論文査読事件などの実例も交えながら具体的に解説します。 チャンネル登録・高評価もよろしくお願いします。 #プロンプトインジェクション #AIセキュリティ #AIエージェント #ChatGPT #生成AI