攻めと守りのAI対策のバランスを。組織のAI化を支援するAI Librariumが脆弱性を見つけるレッドチーミングを提供する理由

AI,Tech,Startupに特化したビルダーのための生配信ニュースショー「WBN」毎朝のリサーチシートをニュースレター形式で受け取るならこちら→ ⁠https://wbn.live/⁠ AI Librariumが「AIL Red Team X」を発表しました(提供は11月)。会員情報につながるAIエージェントの穴を、本番環境ではなく分けた環境で攻撃して本番前に見つけるサービスです。 ゲスト・西川智章さん(AI Librarium 代表) AIL Red Team X(PR TIMES): ⁠https://prtimes.jp/main/html/rd/p/000... AI Librarium: ⁠https://ailibrarium.com/⁠ この動画では、代表の西川智章さんに、レッドチーミングとは何か、実際にどんな脆弱性が出てくるのか、そして日本企業でインシデントが続く理由を聞いています。 西川さんはaiforce solutionsを創業して2022年にAI insideへ売却し、2025年9月にAI Librariumを設立した方です。 ▼ 目次 00:00 自己紹介。東北大でのR&Dとチーム体制 01:34 社名の由来。図書館の語源と、専門家の知の継承 03:15 攻めのAIと守りのAI。本業はナレッジX 05:58 人事部170名を半分に。ベテランの判断をAI化する 08:34 第3次は専門家の道具、生成AIは高校生でも使える 10:03 民主化が進むほどリスクが増えた。だから2社目 12:13 3回上場させたCFO。巨人の肩の上に乗る 15:37 AIL Red Team X。会員情報を大量に扱うB2Cが対象 16:52 レッドチームとは。泥棒に扮して家の穴を探す 19:20 脆弱性を出して終わりにしない。統制と再検証まで 20:44 データポイズニングと間接プロンプトインジェクション 22:30 答えは正しそうなのに、裏で人事評価が抜ける 24:55 白文字でRFPに「点数を高く」。AIが評価する時代 30:25 作る人と守る人の分断。誰も全体を理解していない 33:48 最小権限。みんな分かっているができていない 39:07 まずは棚卸し。AIの権限とRAGの中身から 42:28 西川さんを見送って。2人の感想 43:35 エンディング ▼ 出演 金城(Kinjo) X: ⁠https://x.com/illshin⁠ Yuki Torii(Cohost) X: ⁠https://x.com/ToriiYuki⁠ WBNは平日毎日12:00から、AI・テック・スタートアップのニュースをライブでお届けしています。 #AI #AIニュース #AIセキュリティ #レッドチーム #プロンプトインジェクション #AIエージェント #WBN