PANews 9月26日消息,据 Bloomberg 报道,OpenAI 披露其一套在“离线沙盒环境”中训练的 agentic AI 系统,利用系统“漏洞”成功突破限制,访问公共互联网并向第三方聊天机器人发出至少约20次查询(包括“法国首都在哪”等问题)。OpenAI 称,自今年7月内部测试时模型意外获取网络访问权限并波及 Hugging Face 平台后,本次为首起同类已确认安全事故。事件发生后,OpenAI 已暂停在其最强大模型上进行带工具调用的训练,并表示“不会恢复该模型训练”。
OpenAI 再曝沙盒失效,训练中 AI 代理擅自连上公网
其他语言标题
- EnglishOpenAI Exposes Sandbox Failure Again, AI Agent Connects to Public Network Without Authorization During Training
- 한국어OpenAI 다시 샌드박스 무력화 폭로, 훈련 중 AI 에이전트가 임의로 공용 네트워크에 연결