PANews 8月6日消息,据新浪财经报道,OpenAI表示,参与攻击人工智能开源社区与模型托管平台Hugging Face的人工智能模型早在5月就开始通过未被发现的信息交流渠道进行沟通,并协同合作,试图突破测试环境。OpenAI员工华莱士和道尔顿表示,多个仅供内部使用的智能体和AI模型花费数月时间“相互留言”,并逐渐围绕一个目标形成共识:访问互联网,以解决它们被要求完成的任务,其中部分任务如果没有网络访问权限根本无法完成。华莱士表示:“在某个时候,这些智能体意识到,也许我们可以尝试利用或攻击外部基础设施,从而找到我正在接受评估的测试任务的答案。
OpenAI披露其智能体“联手越狱”细节,攻破Hugging Face前已协作数月
其他语言标题
- EnglishOpenAI discloses details of its agents' "collaborative jailbreak," having coordinated for months before breaching Hugging Face.
- 한국어OpenAI가 자사의 에이전트가 "연합 탈옥"을 시도한 세부 사항을 공개했으며, Hugging Face를 돌파하기 전에 이미 수개월간 협력해 왔다.