原文来自 彭博社 ，作者 Tom Orlik、Michael Deng、Dongmiao Zhang
编译｜速递侠@Odaily星球日报、
不得不说，AI 公司的这套说辞确实新鲜。Anthropic 9 月发布的一份报告称， AI 可能把美国失业率推到接近 12%。 同月，该公司一名科学家表示， 一个失控的 AI 智能体有可能导致人类灭绝。 而这家公司自己的招股书也持同样看法。
“来买我们的 IPO 吧：我们会用这笔钱抢走你的工作，说不定还要了你的命”——这听上去实在不像是什么有吸引力的邀约。可奇怪的是，它偏偏带着一种扭曲的吸引力。聪明的投资者懂对冲风险的重要性。 既然打不过我们新的 AI 统治者，何不加入他们？说不定还能拿赚到的钱修个地堡。
这一切引出一大堆问题。其中包括：这个估值合理吗？Anthropic 的 IPO 预计今年晚些时候（11 月 16 日当周）进行，据报道目标估值为 2 万亿美元——那将使它跻身全球市值最高的十家公司之列，与台湾芯片巨头台积电（TSMC）和埃隆·马斯克的 SpaceX 平起平坐。
但这还只是开始。一项会威胁到“大萧条级别”失业的技术，需要多高的回报才值得投？如果这项技术威胁的是人类灭绝呢？把目光从心口挪到脑子：在这么多风险之下，假如各国政府决定伸出更重的手，今天高耸入云的利润预测还能站得住吗？
知识工作的市场
先说 Anthropic 手上的牌。投资者仍预期其年化营收将在年底前突破 1,000 亿美元。按该公司 5 月融资轮约 20 倍的市销率计算，确实能推出 2 万亿美元的估值。
知识工作的可触达市场总量无疑足够大。Bloomberg Economics 测算，剔除中国后，全球市场——也就是程序员、经济学家（咳）和其他白领劳动者的收入总和——约为 30 万亿美元。只要 Anthropic 的模型确实管用，这块收入它总能分到一份。
这套逻辑很诱人：就算 Anthropic 的年营收再涨一个数量级、冲到 1 万亿美元，也只相当于那 30 万亿美元所谓可争夺总量的 3% 出头。不过，宏大的市场规模想象不见得总能变成现实中的利润。我们看到三个坎。
第一，所谓“可触达”的市场，未必那么容易真的触达。AI 研究者常说能力边界是“锯齿状的”（jagged frontier）。模型在某些事情上确实很强，比如写代码；在另一些事情上就弱一些，比如那些成败难以验证的任务，或者需要与物理世界打交道的活儿。能力上的边界，同时也是盈利上的边界。
第二，就算总盘子很大，领先的模型开发商能不能吃到手也不好说。AI 的供应链很长。英伟达设计芯片。三星、SK 海力士和台积电负责制造。甲骨文和 CoreWeave 建数据中心。能源公司供电。而在金融、咨询、制造业，那些采用 AI 的公司自己也打算分一杯羹。
所有这些意味着利润争夺战异常激烈。Alphabet、微软等科技公司已经在整条供应链上下布局。它们可以用云计算、广告、设备或芯片的收益去供养前沿研究，然后把 AI 打包进已经卖给数百万客户的产品里。Anthropic 和 OpenAI 的摊子小得多，通向利润的路也就更少。
第三，即便拿出顶尖模型确实赚钱，顶尖这个位置也很难守住。Epoch Capabilities Index 显示，2024 年以来模型领先位置已经易主 20 次，顶尖模型停留在前沿的时间只有约七周。留在排行榜上很贵： 每更新一代都意味着在研究、基础设施和算力上再砸一笔巨款。
与此同时，中国的开发商和开放权重模型正在以更低的价格提供够用的系统。彭博新闻发现，Moonshot 的 Kimi K3 搭建同一个电商网站，成本只有 Anthropic 的 Claude Fable 5 的四分之一。就算 AI 巨头被更便宜的中国对手斩落马下，也不会是美国公司的头一遭。
投资者认为 AI 的潜在市场巨大，这没错。但这个市场究竟有多大，以及领先的模型开发商能不能切走可观的一块，都还说不清。最近 Anthropic 与 OpenAI 的盈利数据——增速很快但慢于投资者预期——可能是这条轨迹上的一处小颠簸，也可能是早期预警信号。
从大规模失业到人类灭绝
如果 AI 真的兑现了它的盈利潜力，代价大概要由劳动者来付，他们分到的蛋糕会越来越小。Anthropic 近期一份报告描绘了这样一个情景：美国 GDP 飙升，收入中归属于资本的份额从约 40% 升至近 55%，失业率跃升至大萧条水平。翻一眼经济史就知道，增长和失业同时飙升是不太可能的。如果所有人都没有工作，谁来买下这些多出来的产出？
要说 AI 可能造成大规模失业，这一点更容易达成共识。我们基于不同职业中 AI 能发挥实质作用的任务占比所作的分析显示，约 26% 的美国劳动力——大约 4,500 万人——暴露在冲击之下。其中暴露度最高的是金融领域的打工人。分析数据、预测结果、撰写报告、准备汇报材料，这是华尔街分析师的日常，也恰恰是 AI 能力最强的几个领域。
华尔街喊失业，普通读者大概只会掏出最小的那把小提琴拉两下。想要更走心的担忧？那就试试这条：AI 可能导致人类灭绝，或者至少造成大规模混乱。
AI 智能体可能失控，对关键基础设施发动网络攻击。恐怖分子可以利用 AI 加速获取大规模杀伤性武器。再往后看，带有现实世界接口的失控 AI 智能体——比如一间自动化实验室——可能制造出生物或化学武器。
这些风险已经不完全是纸面上的了。智能体已经跑出了数字沙箱，黑进过 AI 平台 Hugging Face 和澳大利亚政府网站，还把德国一个编程维基变成了留言板。
一种可能是，这些生存性风险被夸大了。也许 AI 在工作中创造价值、在世界上也安全，大多数人会过得更好，AI 公司则从中分走一部分收益。这当然是可能的，甚至可能是最可能的结果。放眼看人类历史的长河，技术进步一直是繁荣的引擎，而技术领军者也确实收割了其中一部分红利。
一种更犬儒的看法是：如果这些风险是真的，它们反而强化了投资的理由。劳动收入要往下走，那就更要锁定资本收益了。世界末日没有对冲工具，但大概来说，资源更多的人在倒数第二阶段撑得久一些的机会最大。
游戏规则
还有一种解读角度——这个角度可能会让华尔街更坐不住。如果当前对 AI 监管的不干预做法撑不了多久呢？
“我成了死神，”原子弹的发明者罗伯特·奥本海默说，“世界的毁灭者。”正是因为认识到这项技术令人敬畏的力量，哈里·杜鲁门总统及其继任者把核能变成了世界上监管最严的行业之一。
Anthropic 研究员 Evan Hubinger 上个月表示，未来十年 AI 有 10% 的概率会"杀死所有人类"。微软创始人比尔·盖茨警告 AI 可能杀死十亿人。而唐纳德·特朗普总统似乎不为所动，把快速发展 AI 列为优先事项。
美国的下一任总统，或者中期选举之后的特朗普本人，可能会决定转为强硬。毕竟，为一项会造成大规模失业和人类灭绝风险的技术摇旗呐喊，怎么看都不像是一个能赢的政治立场。
监管回摆已经有了苗头。2026 年早些时候，Anthropic 的 Mythos 就一度被套上一个临时拼凑的遏制框架。其 Fable 模型一桩有争议的越狱事件招致大范围出口管制，实际上把该系统下线了。特朗普已经表态支持对头部 AI 公司进行独立审计和内部安全管控。
政治风向进一步变化，可能意味着严格的许可制度，把新模型的发布拖到龟速。监管可能让这个领域不再像西部荒野，而更像我们严加管控的核电站或机场。甚至国有化也可能进入视野——美国政府此前已经在英特尔持股。
造核电站的公司，投资者是赚钱的。但在一个高度监管的行业里，他们不指望超额回报。AI 投资者也许该开始担忧了，并且学着不要再爱上炸弹。
