智能体的记忆被偷空了?一文拆解长短期记忆的安全死穴
深翼
0:00 / 0:00
智能体的记忆被偷空了?一文拆解长短期记忆的安全死穴
32 просмотра · 4 дня назад
深翼
184 подписчика
32 просмотра · 4 дня назад
现在越来越多 AI 助手都在强调自己记性好,能记住几个月前的对话内容。但记忆这件事,对 AI Agent 来说,既是让它显得靠谱的关键能力,也是一块容易被忽略的攻击面。这期深翼拆解的,是七层架构里紧跟在工具层之后的一层,记忆层。
本期深翼为你拆解:上下文窗口(Context Window)作为短期记忆,为什么容量有限、塞得越满不代表记得越牢;长期记忆如何通过外部存储和检索机制,让 Agent 真正跨会话记住信息;Mem0、Letta(原 MemGPT)、Zep 这几家长期记忆框架目前的竞争格局和一组需要谨慎看待的自测基准数据;以及从 2024 年 SpAIware 到 2026 年 ZombieAgent 这两起真实安全事件,如何暴露记忆层只管记得多、不管信不信得过这个核心风险。
核心洞察:Agent 记忆层真正决定成败的,从来不是记得多不多、记得久不久,是短期记忆和长期记忆有没有分工明确、写入记忆有没有把关、该忘的信息有没有机制主动清除,三件事一块儿抓,少哪个都不行。
记性再好,把不住门也白搭。
关注这里,一起看懂 AI。
少一点噪音,多一点洞察。
古老的形,未来的故事。
Sources:
State of AI Agent Memory 2026: Benchmarks & Trends Report
Spyware Injection Into Your ChatGPT's Long-Term Memory (SpAIware)
ChatGPT macOS Flaw Could've Enabled Long-Term Spyware via Memory Function
'ZombieAgent' Attack Let Researchers Take Over ChatGPT
ChatGPT's Memory Feature Supercharges Prompt Injection
ZombieAgent Vulnerability Enables Data Theft and Account Takeover in ChatGPT — OECD.AI Incident Record
#AI, #AIAgent, #MemGPT, #Memory, #人工智能, #智能体, #企业AI, #AI安全, #DeepWing, #深翼