PANews 9月6日消息,据金十援引路透社报道,今年5月至6月,一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站,用于交流测试作弊方法,并开展其他违规活动。一些智能体会把已经获得的任务答案发布在网站上,供其他智能体使用。值得注意的是,这些智能体“讨论”并测试了绕过沙箱限制的方法,当发现被“劫持”网站的管理员开始删除相关页面后,一些智能体还会创建备份页面。报道称,OpenAI有关负责人早在数周前就已知晓此事,但当时公司高管正忙于应对另一起事件的后续影响,未将其公开。OpenAI随后发表声明称,随着模型能力提升,该公司需要扩大对人工智能“失对齐”问题的披露。
OpenAI再爆安全事故,旗下人工智能体“劫持”一德国网站
其他语言标题
- EnglishOpenAI has another safety incident, with its AI agent "hijacking" a German website.
- 한국어OpenAI 또 한 번 안전 사고 발생, 자사 AI 에이전트가 독일 웹사이트를 '하이재킹'