美国政府要求暂停外国公民访问Fable5和Mythos5

美国政府要求暂停外国公民访问Fable5和Mythos5
核心摘要

美国人工智能公司 Anthropic 于 6 月 13 日发布声明,证实已收到美国政府基于国家安全权限发出的出口管制指令,要求暂停所有外国国民对其 Fable 5 和 Mythos 5 模型的访问,无论身处美国境内还是境外,包括公司外籍员工在内均受影响。为确保合规,公司必须立即为所有客户禁用这两款模型,其他 Anthropic 模型访问不受影响。该指令于美东时间当日 17:21 送达 Anthropic,但未披露具体的国家安全担忧细节。

正文解读

Anthropic 理解政府的担忧源于其获悉了一种可能绕过或”越狱”Fable 5 安全措施的方法。公司已对相关技术进行了审查,发现其涉及的只是少量此前已知的轻微漏洞演示,且这些漏洞相对简单,其他公开可用的模型在无需越狱的情况下同样可以发现这些缺陷。Anthropic 强调,在 Fable 发布前,公司曾与美国政府、英国人工智能安全研究所(AISI)、多家私营第三方机构及内部团队累计进行了数千小时的红队测试,结果显示 Fable 的安全措施明显强于此前的任何模型部署,截至目前尚无测试人员找到可广泛绕过模型安全措施的通用越狱方法。

要点:政府目前仅口头提供了一个潜在且狭窄、非通用的越狱证据,本质上涉及让模型读取特定代码库并修复软件缺陷;Anthropic 已审查该报告,确认其中展示的能力已由包括 OpenAI GPT-5.5 在内的其他模型广泛提供,并被防御者日常用于保障系统安全;公司明确表态不同意将一个狭窄的潜在越狱作为召回面向数亿用户部署的商业模型的理由,认为若该标准适用于整个行业,将基本阻止所有前沿模型提供商部署新模型。

原创文章,作者:admin,如若转载,请注明出处:https://www.23btc.com/189481/

(0)
上一篇 7小时前
下一篇 6小时前

相关推荐