mt logoMyToken
ETH Gas
简体中文

Fable5被迫下线前24小时,白宫发生了什么?

原文标题:Inside the whirlwind 24 hours that led the White House to slap export controls on Anthropic

原文作者:Sophia Cai and Cheyenne Haslett,Politico

原文编译:Peggy

编者按:Anthropic 刚刚发布数日的 Fable 5 模型,突然被迫下线。起因是特朗普政府以国家安全为由,要求限制外国公民访问 Anthropic 旗下 Fable 5 和 Mythos 5 两款先进 AI 模型;由于难以精确区分用户身份与访问权限,Anthropic 最终选择对所有客户禁用相关模型。

这场突发下架背后,是白宫与 Anthropic 在 24 小时内展开的一场高压博弈。围绕 Fable 5 的安全护栏是否可被绕过,Anthropic CEO Dario Amodei 与财政部、商务部、白宫网络主管等政府高层进行了多轮紧张通话。政府认为模型可能被用于识别软件漏洞,构成国家安全风险;Anthropic 则强调相关问题并非「通用越狱」,并批评政府行动缺乏透明、清晰、基于技术事实的法定程序。

这起事件的关键,不只是一次模型下线,也不只是白宫与一家 AI 公司之间的沟通失控,而是先进 AI 模型正在被重新定义为一种潜在的国家安全资产。当模型能力进入网络安全、漏洞挖掘、情报分析等敏感场景,政府不再满足于企业自我评估和自愿审查,而是开始动用出口管制这类更强硬的政策工具,直接介入模型发布节奏。

更具讽刺意味的是,Anthropic 一直是 AI 行业内最积极呼吁监管的公司之一,如今却成为监管铁拳落下的对象。政府认为其对安全漏洞反应不够严肃,Anthropic 则认为白宫过度反应。双方争议的背后,是 AI 行业未来必须面对的新问题:谁有权判断一个模型是否足够安全?企业自证安全还够不够?国家安全名义下的快速干预,又会如何改变 AI 公司的合规成本、发布节奏与全球竞争格局?

Anthropic 事件可能成为先进 AI 监管的一个分水岭。未来,最前沿模型的发布不再只是一次产品上线,而更像是一场涉及国家安全、地缘政治、资本市场和产业秩序的高风险部署。

以下为原文:

特朗普政府对 Anthropic 进行全面出口管制之前,白宫高级官员曾在一场持续 24 小时的紧急斡旋中,试图说服这家 AI 公司主动下架一款刚刚发布的新模型。多名政府官员认为,该模型可能存在国家安全风险。

据两名政府官员及一名白宫高级官员透露,在这场风波中,Anthropic CEO Dario Amodei 与多名政府高层进行了数通气氛紧张的电话沟通,参与者包括美国财政部长 Scott Bessent 和白宫网络主管 Sean Cairncross。由于未获授权公开讨论此事,相关人士均要求匿名。

这起事件也将一个日益紧迫的问题推到台前:面对迭代速度极快、能力边界不断外溢的先进 AI 模型,白宫究竟该如何在创新与安全之间划线?

这些通话细节此前从未被报道。

模型下架前夜:安全争议

在政府实施出口管制后,Anthropic 被迫下架其新模型 Fable。该模型面向公众发布仅数日。Anthropic 此前曾向外界保证模型安全可控,但发布后不久,政府高层开始重新评估其安全护栏是否真的如公司所宣称的那样稳固。

两名政府官员和一名白宫高级官员称,周四,也就是 Fable 公开发布两天后,亚马逊 CEO Andy Jassy 向白宫表达担忧,称该模型的安全护栏可能存在被绕过的风险。

一名了解亚马逊相关沟通的人士表示,亚马逊是在回应政府要求,就潜在风险提供反馈。

到周五早上,问题已经上升至白宫最高层。

据政府官员和白宫高级官员称,Bessent、Cairncross、白宫幕僚长 Susie Wiles 以及其他高级官员召开会议,讨论该模型及政府应对方案。其中一名知情人士称,Bessent 当时正在前往休斯敦参加一场既定公开活动,因此以远程方式参会。

会后,政府试图联系 Amodei,但被告知其因参加一场健康静修活动而暂时无法接听电话。一名政府官员和一名白宫高级官员如此表示。

Anthropic 发言人否认了这一说法,称:「这完全不属实。」

一名接近 Anthropic 的人士则表示,政府大约在中午首次要求联系 Amodei,而 Amodei 在 1 小时 15 分钟内便与高级官员通上电话。该人士称,在 Amodei 暂时无法接听期间,Anthropic 曾提出可由其他高管代为沟通。

政府最终联系上 Amodei 后,他先后参加了三通电话。白宫高级官员和一名政府官员称,参与通话的政府高层约有半打人,包括 Cairncross、Bessent 以及商务部长 Howard Lutnick。

白宫高级官员称,其他白宫幕僚和政府官员也参与了部分通话,包括商务部负责工业与安全事务的副部长 Jeffrey Kessler、白宫文书秘书 Will Scharf、白宫副幕僚长 Richard Walters,以及总统政策助理 Walker Barrett。

在通话中,Amodei 试图澄清他认为存在的误解。他反驳了政府的安全担忧,维护 Anthropic 的防护机制,并强调,已经出现的绕过方式属于特定场景下的问题,并不等同于更广泛意义上的「越狱」——即让模型完全摆脱 Anthropic 所设安全护栏的限制。

在出口管制落地后发布的一篇博客文章中,Anthropic 表示:「目前还没有测试人员能够找到一种通用越狱方法——也就是一种可以大范围绕过模型安全措施、解锁大量网络能力的越狱方式。」公司还表示,对 Anthropic 或任何其他 AI 公司而言,完全杜绝所有越狱尝试目前并不现实。

Anthropic 同时为自身安全系统辩护,称其防护机制「非常强,以至于许多用户抱怨它们过于宽泛」。

但 Cairncross 和 Bessent 并未被 Amodei 的解释说服。一名白宫官员称,亚马逊的发现已提交美国国家安全局审阅,而后者认为相关材料足以构成「证据」。

据白宫高级官员和两名政府官员称,政府敦促 Anthropic 主动下架模型,并与政府协调修复漏洞。Amodei 要求获得更多时间和信息,但并未承诺下架模型。白宫高级官员称,在其中一次通话中,Bessent 直接告诉 Amodei,他正在做出一个「糟糕的决定」。

监管铁拳落下:Fable 5 和 Mythos 5 遭遇管制

通话结束后不久,特朗普政府对 Fable 5 和 Mythos 5 两款模型实施出口管制。Anthropic 称,政府援引国家安全权限,禁止外国公民使用这些模型。公司表示,该命令的「实际效果」是,为确保合规,Anthropic 不得不「突然禁用」所有客户对相关模型的访问。

一名白宫高级官员表示:「我们恳求他们与我们合作了几个小时,出口管制是最后手段。这不是我们想做的事,但我们别无选择。」

报道发布后,一名接近 Anthropic 的人士反驳称,公司并未被给予所谓「自愿合作」的选择。

该人士称:「白宫只给了 90 分钟要求下架模型,而且没有提供任何关于实际威胁的细节。从来没有什么恳求,也没有要求他们与我们合作,只有一个宣布出来的 90 分钟最后期限。」

一名白宫高级官员称,白宫官员曾听到 Amodei 将 Anthropic 技术的危险性类比为核弹。因此,当这位一直主张 AI 安全监管的 CEO 表示不愿下架系统以修复已知安全漏洞时,政府官员感到难以理解。

Anthropic 长期以来被视为 AI 行业内最积极呼吁监管的公司之一。该公司多次主张,应通过监管框架应对 AI 快速发展可能带来的全球安全风险与就业冲击。

三名了解政府思路的人士表示,亚马逊并不是唯一一家向政府提出担忧的公司。

其中一人表示:「问题的核心在于,Anthropic 对这件事缺乏足够严肃的态度。如果 Anthropic 认真对待,而不是将其轻描淡写为孤立事件,并主动修复或暂停访问,这件事根本不会发展到这一步。」

另一名接近 Anthropic 的人士则反驳称,所谓「越狱」并不意味着 Fable 5 的安全系统失效,并指出公司在发布 Fable 前曾与政府保持沟通。该人士称,在多轮沟通中,政府并未反对 Fable 发布。

政府实施出口管制后,Anthropic 在博客文章中表示将遵守政府指令,但同时认为这一举措反应过度。

Anthropic 表示:「正如我们此前公开所说,我们认为政府应当有权阻止不安全的部署,但这应当建立在一个透明、公平、清晰,并以技术事实为基础的法定程序之上。此次行动并不符合这些原则。」

一名获准匿名发言的白宫官员表示,创新仍是白宫的「首要目标,但我们同样必须优先考虑安全」。

亚马逊在声明中拒绝披露其与政府沟通的具体细节。一名亚马逊发言人表示:「政府就潜在安全风险征询我们的意见并不罕见。当这类情况发生时,我们不会披露相关讨论细节。」

今年 4 月初,Anthropic 曾宣布,其最新强大模型 Mythos 将仅向少数科技公司和网络安全公司开放,用于帮助这些公司测试软件漏洞。Anthropic 当时表示,由于该模型能力过强,如果落入不当使用者手中,可能造成严重后果,因此必须限制发布范围。

Mythos 的亮相引发了 Amodei 与白宫高级官员之间的一系列会议。双方均将这些会议描述为富有成效。此后,围绕如何监管先进 AI 模型,双方展开了多轮讨论,并最终促成了近期一项行政命令:要求企业在广泛部署先进模型前,自愿将模型提交政府审查。

本周公开发布的 Fable 5 被 Anthropic 描述为一款「Mythos 级别模型」,但配备了额外安全措施,使其可以面向普通用户开放。该模型曾接受美国政府和英国 AI 安全研究所审查。

但在所谓安全缺陷被披露后,多名政府官员认为,该模型必须立即下架。

周六上午,前白宫 AI 主管、坚定反对监管的 David Sacks 在 X 上发文,支持政府对 Anthropic 采取出口管制。

Sacks 表示,他不认为这次「越狱」简单或无关紧要,也不认为出口管制是政府试图借机更广泛控制 AI 行业。Sacks 写道:「政府现在希望 Anthropic 修复安全问题,随后解除出口管制,并让 Fable 重新回到公开发布状态。政府希望这一切尽快发生。坦率地说,政府感到困惑的是,Anthropic 此前一直说安全请求是其最高优先事项,但现在却不愿配合。」

Sacks 以及政府内其他官员此前曾多次批评 Anthropic,指责其存在左翼政治偏见,并因其倡导更强行业监管、警告大规模就业冲击而认为该公司在制造恐慌。

今年早些时候,国防部长 Pete Hegseth 和五角大楼将政府与 Anthropic 之间的分歧推向前所未有的高度。3 月 3 日,因 Anthropic 拒绝允许其 AI 工具被用于大规模国内监控和自主武器系统,五角大楼将该公司列为供应链风险。

周六,Sacks 表示,政府与 Anthropic 之间的既有争端,与此次出口管制决定是两回事。Sacks 写道:「政府重视 Anthropic 的技术能力,并认为这个问题虽然严重,但应该很容易解决。现在球在 Anthropic 那边。」

原文链接

免责声明:本文版权归原作者所有,不代表MyToken(www.mytokencap.com)观点和立场;如有关于内容、版权等问题,请与我们联系。
更多精彩内容请查阅
X(https://x.com/MyTokencap)
或加入社区了解更多MyToken-官方华文电报群
https://t.me/mytoken_cn
相关阅读