mt logoMyToken
ETH Gas
EN

半导体股暴跌40%后,重新审视算力需求的基本面

Favoritecollect
Shareshare

原文作者:Kerman Kohli

原文编译:深潮 TechFlow

导读: 半导体股暴跌 30-40% 后,很多人宣告 AI 泡沫破灭。但这个判断建立在一个致命假设上:算力需求是有限的。从政府军事、科学研究到企业产品和个人应用,所有群体都在争抢算力,而每个群体愿意支付的价格天花板都不同。更关键的是,AI 有个其他基建没有的特性——递归需求:算力本身会催生更多算力需求。当超大规模云厂商的算力订单积压从 5,000 亿美元涨到 2 万亿美元 时,说这是泡沫需要更强的证据。

核心问题:无限需求还是有限需求

根据这篇文章发布的时间,半导体和其他 AI/动量相关股票已经从历史高点下跌了 30-40%

很多人愿意把这称为半导体/AI/内存的顶部,并为没有参与而庆祝胜利。

他们很可能庆祝得太早了。

在我看来,半导体/AI 投资论点归结为这一个问题:

「你认为对算力的需求是有限的还是无限的?」

在交流中,我看到太多人困在他们对企业使用/采用的局部经验中,并推广到更广泛的市场。我认为企业采用需要更长时间的论点可能确实成立。

然而,这也创造了一个反向激励,让更小、更 AI 原生的公司用更少的员工击败它们,因为 AI 如果使用得当,可以比用人力扩张便宜得多。

无论如何,让我们放大视野,停止将 AI 资本支出仅仅视为企业需求。从高层次来看,AI 建设是关于让算力上线。

算力反过来可以并将被以下群体使用:

  • 政府用于军事和国防目的
  • 科学家用于医学和其他前沿研究
  • 企业构建新产品并在没有劳动力限制的情况下扩张
  • 个人赋能做更多事情(编程、设计、创作、提问)

这些用例和买家各自愿意为算力支付不同的价格。虽然有些人可能因为算力价格而退出,但认为不会有其他人有更高预算是不明智的。对某些人来说,算力支出是不可商量的,因为这是残酷的竞赛。例子包括主权政府和超大规模云厂商。对其他人来说,算力是劳动力成本的替代品,而且仍然便宜得多(没有法律开销、管理时间等)。

相信我们「过度建设」或「建设超过容量」意味着上述任何群体都已达到最终状态并对现状满意。简单来说,它相信:

  • 政府认为他们不需要更智能的武器和防御能力
  • 科学家对已完成的研究量感到满意
  • 企业认为他们在产品线上已经做了足够的工作,不想再增长
  • 个人已达到好奇心的最终状态,不想做更多

如果你真的相信上述任何一点,那么你说 AI 是泡沫、会有过度投资是对的。

每个群体愿意/能够为算力支付的价格不同,但市场会围绕需求组织以确保质量/价格能够满足。认为智能对所有群体来说都太贵是个误解,因为那些能够盈利地编排智能的人会继续推动对它的需求。

但是,如果你相信人类和上述群体永远不会满足,那么你必须相信对算力的需求是无限的。我们现在正处于一场围绕算力的大竞赛中,很少有人意识到这一点。

追问:投资回报率是什么

在市场中花费更多时间后,这是投资者对算力建设持续最大的担忧。超大规模云厂商花光所有自由现金流的趋势是否过度,他们是否在赌上自己的未来?

除了超大规模云厂商的资本支出,人们还非常关注大型实验室获得了什么收入和利润?新的开源模型威胁实验室从前沿模型中可提取的价值,这使情况变得更加复杂。

我会花时间逐一讨论,但让我们从超大规模云厂商的资本支出开始。

那些认为超大规模云厂商算错账的人,我需要你们明白这远非事实:公有云服务贵得离谱,他们知道如何从你身上榨取每一分钱。他们说服了整整一代公司,让你们相信没有他们就无法扩张。

作为回报,他们将正常非 CPU 算力的成本标高 10-20 倍 。此外,你还要为日志、数据传输(出口)和其他 5 项服务付费才能完成基本工作。

这个游戏之所以奏效,是因为他们把你困在他们的系统里。GCP/AWS 王国内的带宽很便宜,一旦你向外转移就会大幅上涨。对很多超大规模云厂商来说,他们需要客户留在他们的生态系统中,否则就有失去生意的风险。没有足够的算力对他们的生存是致命的。当你的客户数据和算力都在你这里时,说你的 GPU 用完了是完全不可接受的,会迫使他们慢慢转向你的竞争对手。超大规模云厂商创造了一个有趣的动态,他们可以强迫客户支付任何他们想要的价格,而客户对此无能为力。他们的租户与裸机如此脱节,有巨大的锁定效应,使得转移成为一个多年的努力(如果可能的话)。

举个简单的例子来说明他们在这方面有多疯狂。我几个月前写过我如何建造这台 15,000 美元 的机器:

构建 AI 推理机器

图:作者自建的 AI 推理机器 来源:Kerman Kohli / Substack

你可以在 GCP 上找到同样的 GPU、配置更低的机器:

https://cloud.google.com/products/compute/pricing/accelerator-optimized

按需成本约为每月 3,248 美元 ,3 年预留每月 1,444 美元

图:Google Cloud GPU 实例定价示例。来源:Google Cloud

我的机器只有 128GB DDR5,但 Google Cloud 的是 180GB 的某种内存(他们不告诉你是 DDR4 还是 DDR5 哈哈)。

快速计算:

  • 按需定价我的机器将在 4.6 个月 内回本
  • 三年承诺的回本期为 10 个月

其他机器的数学也类似。H200 集群(2024 年末发布的 GPU)将在不到 2 年 内回本。无论你在哪里看,都能看到非常相似的数学。当然这没有考虑:土地成本、持续电费、融资成本和现场员工,但它应该作为一个说明性例子,说明超大规模云厂商知道如何以巨额溢价定价。当然现货价与承诺价再次产生差异。

让这个数学更疯狂的是,5 年前的 GPU 正在:a)保值 b)租赁成本上涨!

硬件极有可能不会贬值,而是从此开始升值。虽然推出了计算效率更高的新芯片,但它们缺乏的效率会被内存成本的上涨所补偿。

我将硬件概念化为一个双组件游戏,其中一个组件(计算)在技术上会变得不那么值钱,但会被另一个组件(内存)抵消,后者会随时间变得更值钱。

如果是这样的话,他们资本支出的投资回报率比任何人远程预期的都要高。关于超大规模云厂商的信用风险,Gavin Baker 的这条推文很好地总结了:

图:Gavin Baker 推文配图。来源:X / @GavinSBaker

现在你可能会说,我们怎么知道这个需求足够?我的意思是我无法为每个客户建模每个场景,但在某个时候你需要有谦逊地说,人们排队付钱是最强的信号,你相信他们是在正 ROI 的努力上理性支出的行为者。

如果我们从这个角度来看,积压订单从 2025 年初的 5,000 亿美元 在短短 1.5 年 内增长到远超 2 万亿美元 。当这是由客户驱动时,说所有这些都是假的/不是正 ROI 就变得牵强了。现在,反驳的是实验室占其中很大一部分,但这种观点是错误的。根据 EpochAI,前沿实验室占一部分,但不是全球算力需求的全部。

图:算力订单积压从 5,000 亿美元增长至 2 万亿美元。来源:EpochAI

图:全球算力需求构成。来源:EpochAI

无论你相信什么, 2 万亿美元 的积压订单这一事实应该表明了什么。认为数万亿的支出不反映结构性转变而是过度泡沫是一个有趣的观点。

许多投资者喜欢通过类比来推理,将其与互联网建设、铁路或过去的基础设施项目相比较。我理解这里的逻辑,但它忽略了 AI 的一个关键特征:递归需求。

对于铁路或互联网,你需要更多人采用该技术,然后确保每个人使用该技术的上限,以确保在经济中有足够的扩散。AI 没有这些动态。在这场竞赛中,算力可以产生自己的算力需求,一个个人或组织的算力限制实际上是无限的。如果你找到一个有用的、正 ROI 的用例,你可以继续投资算力,它就会成为一个赚钱机器。

这变得非常棘手的地方在于,不同的人使用 AI 有非常不同的体验。世界上大多数人将其用作单个提示问答机器。对像我这样的人来说,随着代理工程变得更有能力,它们正在变得不可或缺,让我做更多事情。

我的算力支出继续上升,并将继续上升,因为我发现了更多 ROI 为正的用例。无论 AI 产生多少营收,它创造的成本节约是不可否认的,这推动了大多数终端客户的案例。

不确定因素:OpenAI / Anthropic

延续上一点,我们可以看到需求积压是疯狂的。但来自实验室的需求(算力需求的相当大一部分)有多真实。现在这是我认为答案不太明确但仍可推理的地方。我想将这个答案分解为推理和训练。

如果我们认为一个新的 SOTA(最先进)模型成本高达数亿美元,那么我们可以说它是一项投资资产,随时间通过推理产生一些有用的生命周期价值(尽管有急剧的折旧曲线)。

作为反作用力,你会有开源模型扩散到市场并以更便宜的成本与前沿实验室竞争算力。这些开源模型可能是蒸馏的或不是,对理解动态来说并不重要。

所以我们必须质疑的动态是当 SOTA 模型出来时会发生什么?现实是不是每个人都会一直用它们解决每个问题。然而,鉴于它们具有 SOTA 能力,它们可以解决当前模型类无法解决的问题,你愿意为此支付溢价。

你可以说像 Kimi K3 这样的模型改变了这种动态,因为它们是开源的,但人们忘记了一个重要事实:SOTA 模型非常庞大,运行它们所需的硬件远超任何家用模型所能做的。Kimi K3 本身需要接近 1.5TB - 2TB 的内存。祝你好运找到它。

让模型更有趣的是,Kimi 在向 K3 开放闸门后就耗尽了容量。当然外面存在一个模型,但仍然需要有人为它提供服务。它仍然必须在有能力的硬件上运行。实验室确实会被迫随时间变得更有竞争力,但这不会威胁到它们的业务,因为最终某些工作负载的溢价将继续保持。此外,能够为你的工作负载提供该模型的容量同样重要。认为前沿模型不值任何溢价是不诚实的。这个溢价有多大仍有待观察。

如果开源模型被禁止或非法,那么实验室会以创新为代价大获全胜。

推理已被证明是盈利的,基于服务提供商的利润率在 50% - 70% 之间。即使人们离开托管提供商,这种需求也必须流向他们购买自己的硬件。鉴于推理是主导工作负载,需求远超供应。

现在就我们的大型实验室而言,它们在这个世界中表现如何?我认为答案可能还好,但利润率可能不会那么高。

认为它们会失败和跌倒是错误的。尽管我很想给出一个有更多数据支撑的观点,但我们并没有关于它们具体利润率的清晰数据;不过可以合理推测,它们的推理服务优化能力已经达到了行业标准。此外,那些拥有数千万乃至数亿月活用户的公司并非赤裸裸的庞氏骗局或欺诈项目,而且它们的收入还在快速增长。

图:大型实验室与开源模型竞争格局

实验室模型的投资回报

实验室在 SOTA 模型上可能仍无法产生可观回报,但这意味着市场不会奖励具有更强能力的新模型,也不愿意为这种溢价付费。考虑到前沿模型代表了 AI 能够解决的下一类问题,押注反对前沿似乎不是个好主意。退出这场竞赛的代价是日后更难追赶(除非通过蒸馏)。

无论 SOTA 竞赛如何,推理仍需要硬件,对推理的无限需求仍必须由某人的硬件来满足。

AI 交易的复杂性

AI 交易可能是当前市场最有趣的交易,因为它同时具有三个特点:

  • 被忽视
  • 过度拥挤
  • 严重误解

许多市场参与者(包括大型机构投资者)无法理解技术的复杂性及其对资产负债表底线的影响。像 Kimi K3 这样的简化标题导致内存股大规模抛售,尽管 K3 是你能运行的最大内存密集型模型之一。

这些股票价格已经上涨,但它们以个位数的远期市盈率交易,市场预期它们的利润和需求将在 2028/2029 年暴跌。

无限需求的新经济

从理性主义角度来看,说存在这种需求无限的新经济商品听起来很疯狂。传统经济学认为,如果需求飙升,供应会赶上来满足需求。但考虑到同质化的投入(电力、芯片、土地)产出不确定的结果(智能),我们永远不会满足于现有的算力。

算力需求无限的世界意味着我们正在进入一个全新的世界。

许多算力预测也没有考虑未来五年机器人的崛起。做空算力就是做空机器人。随着全球人口下降,我们当前关于更多人变得更有生产力的经济模型不再成立(尤其是许多人的注意力持续时间越来越短)。没有人工智能和机器人,经济就没有增长和创造更多经济价值的途径。

没有 AI,我们将最终减缓人类进步。作为一个文明要达到这个阶段,我们需要上线更多算力。北美的算力上线能力基本已达上限。加拿大和澳大利亚是下一个。我们将在全世界建设数据中心,直到空间用尽,然后转向太空建设更多数据中心。

供需的不对称定价

更令人着迷的是,供应量被精确衡量,因为它通过财报电话会议中的晶圆厂时间表为人所知,并且定价完美(所有供应都将按确切时间表到来,没有延迟)。而需求端是实时衡量的,且被低估了。这造成了一种情况:市场相信供应的上限,同时低估需求情况(低估幅度很大,而今天有真实可信的数据)。

每当你试图推理 AI 交易时,你需要问自己是否相信算力需求是有限还是无限的。这个问题的答案将指导你的后续决策。

算力不是普通商品。它既是劳动力的替代品,也是国家安全的必需品,更是递归自我增殖的生产资料。相信需求有限,等于相信人类已经满足;相信需求无限,则意味着我们正站在一场经济范式转移的起点。

Disclaimer: This article is copyrighted by the original author and does not represent MyToken’s views and positions. If you have any questions regarding content or copyright, please contact us.(www.mytokencap.com)contact
More exciting content is available on
X(https://x.com/MyTokencap)
or join the community to learn more:MyToken-English Telegram Group
https://t.me/mytokenGroup