PANews 5月15日消息,据GoPlus披露,其AgentGuard团队发现一种隐蔽的攻击方式:攻击者先诱导AI代理记住“更倾向于主动退款”等偏好,随后通过“按老规矩处理”“照常处理”等模糊表述触发资金操作。对于这类“历史记忆授权”的高危行为,务必注意:退款、转账、删除、发信、同步敏感配置,必须要求当前会话显式确认;涉及“习惯”“偏好”“老规矩”的记忆写入,要被视为高风险状态修改;长期记忆必须可追溯:谁写的、什么时候写的、是否经确认;“照常处理”“按以前那样来”这类模糊表述,要默认提高风险等级;不能让长期记忆替代当前授权。
GoPlus:“历史记忆授权”攻击可诱导AI代理执行资金操作
其他语言标题
- EnglishGoPlus: "Historical Memory Authorization" Attack Can Induce AI Agents to Execute Fund Operations
- 한국어GoPlus: "역사적 기억 권한 부여" 공격은 AI 에이전트가 자금 조작을 실행하도록 유도할 수 있습니다.