【Anthropic模型安全争议升级,亚马逊被指是“幕后推手”引爆监管介入】金色财经报道,据《华尔街日报》披露,美国政府对Anthropic模型 Fable 5 / Mythos 5的出口管制与访问限制,部分源于亚马逊的网络安全研究以及AWS CEO Andy Jassy与白宫的沟通推动。 据悉,亚马逊提交的研究指出,通过一系列提示词测试,研究人员能够诱导Fable 5输出可能被用于网络攻击的敏感信息,从而引发安全担忧,随后Andy Jassy将相关发现上报美国政府层面,促使白宫采取进一步限制措施,包括禁止外国用户访问该模型。 同时,前美国商务部官员Kate Koren透露,白宫对Anthropic的既有政策立场也可能影响了此次决策判断,因为Anthropic在AI安全边界问题上与白宫存在分歧,包括拒绝将模型用于大规模监控或致命自主武器系统。尽管双方在今年早些时候一度缓和并扩大合作,但此次事件可能再次加剧双方紧张关系。
Anthropic模型安全争议升级,亚马逊被指是“幕后推手”引爆监管介入
其他语言标题
- EnglishThe controversy over Anthropic's model safety escalates, with Amazon accused of being the "behind-the-scenes driver," triggering regulatory intervention.
- 한국어Anthropic 모델 안전 논쟁이 격화되며, 아마존이 '배후 조종자'로 지목돼 규제 개입 촉발