AI 最近的行情情绪极差。市场主要担心的点在于:AI 前沿模型公司的收入能否支撑他们巨大的估值。
Anthropic 公布了第三季度的收益,其实数据还不错,但是当天AI 板块大跌,虽然还有CPI、AI 债务等等因素导致,但市场确实在怀疑行情能否延续。
在黄仁勋最新的采访中,黄仁勋也给出了自己的解答。他认为,市场把 AI 回本的压力全放在 OpenAI 和 Anthropic 这两家公司身上是不对的,这两家公司只占很小一部分。他强调,在 2030 年,全球的 AI 基础设施投入会达到 4 万亿美金。
TL;DR· 摩尔定律已死,今天要两倍算力就得付两倍的钱;而我对结果的信心是 99.99%
· 只凭一两家实验室的收入去外推整个基建规模是误解——前沿实验室只占我们算力的 25% 到 30%,剩下的三分之一是经典计算,三分之一是成千上万家初创公司· 土地、电力、外壳和建设资源,将是最主要的瓶颈· 当总兆瓦数受限,客户的选择会转向最有生产力的算力,所以我们的份额实际上在上升;我们投放到单一吉瓦里的美元含量,已经从 180 亿涨到 400 亿以上· 我们希望智能的成本每年下降 2 倍甚至 20 倍,因为智能的消费量会远远补上这个缺口
我们是否正跨入奇点边缘,为什么算力需求要增长 10 亿倍?
我们需要比不久前多出十亿倍的算力,这个逻辑其实相当清楚。思考和解决问题所需的推理次数,远远超过重复或背诵你已经记住的东西。
你给早期的 ChatGPT 一个提示,那些知识大部分都被编码进了大语言模型里,而糟糕的是它会幻觉。下一步是生成式 AI,用真实事实来“接地”和约束:它会快速检索,带回来事实,再结合预训练生成答案。
我们真正想做的、有意思的事情,大多需要一步步推理:想出几个方案、做规划、推演事态如何发展、反思目前最好的路径、把方案展开、再把其余的剪掉。伟大的战略家都热爱“战略期权”:你不希望剪枝剪得太快,但又必须优化资源。AI 现在就在这么做。它保留战略期权、展开推演、反思、剪枝。所有这些思考和探索都要消耗多得多的算力。
因为它能做出有产出的工作,我们就会用它做更多的事。这两件事叠加,用更多算力来完成工作,同时因为干得好而被雇去做更多工作,共同放大了总需求。
去年最重要的观察是:模型的规模定律会继续下去,但给它装上“harness”,也就是大语言模型的外骨骼,是一个巨大的解锁。它管理工作记忆,把工作记忆转成短期和长期记忆,并构建出知识图谱。人类就是这么做的:我们睡觉时做压缩,不重要的事情忘掉,重要的事情在离线状态下被重新连接起来。
另一个解锁是工具使用。我们教会了 AI 如何与人类造出的最重要的工具交互:SPICE、Verilog、各种仿真器、设计编译器、Photoshop、AutoCAD,以及西门子的工具。如果一台机器人进了你家,它会用你家里的工具,而不是从零开始造新工具。智能体必须学会使用已有的工具。
一旦你把装在harness里的大语言模型放进企业,把它们接到真实事实和现有工具上,它们就开始做出惊人的事情。编程是最容易的上车入口,因为软件工程师习惯了那些哪怕不好用、但效用巨大的工具。
下一个阶段是设计、创意和营销工作流。比如 OpenAI 的 Astra 就非常棒。你拍一张照片,交给 Astra,它直接把它重建为 CAD 模型。我们需要 CAD 模型,才能与它交互、做调整、做微调。这个最初的落地,就让设计师、建设者和创作者的生产力大幅提升。
如果前沿实验室明年把算力再扩大 3 到 5 倍,你预期长时间运行的智能体任务会出现什么突破?
纳维–斯托克斯方程就是个很好的例子。OpenAI 不是凭空解出纳维–斯托克斯的,他们是在众多伟大科学家、数学家和前人工作的基础上解出来的。我们正处在许多领域的临界点上。因为大量的基础工作已经完成,如果我们把 AI 穷举式的探索能力施加在这些基础之上,我们很快就会看到一个接一个的突破。
我们需要大量算力,因为必须进行海量的搜索空间探索。如果只是靠第一性原理推导、不需要搜索巨大的空间,早就有人解出来了。很多问题就悬在那个悬崖边上,等着海量的智能探索去解决它们。
未来几年,智能的成本会下降得相当快。更多算力上线,模型也变得更聪明、更高效。就像摩尔定律在三十年里让计算成本每年减半一样,我们希望智能的成本每年下降 2 倍、甚至 20 倍。而智能的消费量会远远补上这个缺口。这个世界上有巨大的机会真空,等着被填满。
我们的野心扩张得非常快。十年前训练 GPT-1 大概要花 1000 万到 2000 万美元;今天一百美元就能做到。与此同时,我们的野心大到开始训练 3 万亿、10 万亿、30 万亿参数的模型。过去十年,我们对算力的使用量增长了大约一百万倍,而人类对智能的需求是永不满足的。
人们说 AI 会给我们更多闲暇,我完全不同意。智能会打开更多机会,而有野心的人想去抓住它们。每当你学会一件事,就打开了一扇新的门;门后面,你会看到更多要解决的挑战和问题。
1930 年,凯恩斯预言一百年后经济会增长八倍,每周工时降到 15 小时。经济确实增长了八倍,但我们没有变成 15 小时工作周。他错在低估了人类精神:工作和发现给人意义感,它写在我们的 DNA 里。
为什么大众仍然觉得超智能很遥远,没有意识到它早已融入生活?
AI 或者说超智能是一种“软物质”:你看不见、摸不着。全世界都在谈论它,它却依然是无形的。其实人们每天都在受益于它:搜索的时候、购物的时候、看 Netflix 的时候、去沃尔玛的时候、联邦快递给包裹规划路线的时候。今天这一切都在使用加速计算和超智能,只是我们不太会讲这个故事。如果我们把数据中心关掉、让超智能停摆一个周末,所有人都会立刻察觉到。
你提到机器人领域的 ChatGPT 时刻已至,这是一个千亿美元级的市场吗?
说一千亿美元是低估了。光是今年上半年,我们就做了 100 亿美元的物理 AI。去年一整年是 100 亿美元,再往前一年是 50 亿美元。
物理 AI 就是 AI 与物理世界交互。它包括光子计数 CT、超声、成像雷达、能感知各类信号的新一代 5G 网络、自动驾驶汽车、制造系统、视觉检测系统,以及在三维空间重建世界的地理空间卫星。在整个电磁频谱上,AI 都在工作。
在 AI 里,有感知、有推理,然后是规划与执行。当你走到规划与执行这一步,那就是自动驾驶汽车、仓库配送车、能自主学习的抓取机器人、送药的医院机器人,以及将全面机器人化的手术室。
对我们真正重要的一切,最终都会触达物理世界。把软件和智能带进那些历史上纯粹是机械和电气的行业,是巨大的机会。看看埃隆对汽车业做了什么:他把它变成了一个计算产业。每一家车企都在变成科技公司。联邦快递、沃尔玛、电信运营商,也都在重新变成科技和 AI 公司。
英伟达如何通过“三台计算机”架构驱动物理 AI 落地?
要搭建一个物理 AI 平台,需要三台计算机:
第一,你需要造“大脑”的计算机,也就是训练系统。
第二,AI 实验室和开发者必须构建世界的数字孪生,这样智能体就不必在物理现实中靠试错来学习。我们做出了 Omniverse,作为仓库、建筑和城市的数字孪生。我们把机器人放进数字孪生里,让它在那里学习如何运作。
第三,你把策略部署到物理机器内部的那台计算机上,车里、机器人里、手术器械里的那台计算机。
它需要三台计算机和三套完整的软件栈。我们为每一套都构建了完整的栈,而我们是世界上唯一这么做的公司。
如何回应“AI 无法被完美对齐、终将不可控”的末日论论调?
我们必须负责任地构建技术。“构建”是一个工程学词汇。工程师、科学家和研究人员必须安全地把这项技术造出来。你做得到吗?绝对做得到,因为如果你做不到,你根本就不该造它。
有人说 AI 不可控,是因为不可能做到完美对齐。对齐的意思是:你给 AI 一个任务,但它如何完成这个任务可以有很多种方式。比如一道明确的数学题,它可以通过推导解出来,可以翻教科书找到,也可以从抽屉里检索出答案。但对于“人生要成功”或者“要为社会做贡献”这类目标,根据文化、背景和地域的不同,有无限种解读方式。对齐是一个永远存在的问题。如果我们依赖完美对齐来保证安全,那我们永远到不了那一天。
工程上的答案,跟我们养孩子、带新员工的逻辑是一样的:
第一,隔离与零信任。当你雇用一个人,或者把一个一岁的孩子放进围栏,你都是从零信任开始的。你严格依据眼前的任务,给他最小的权限、最小的工具访问权和最小的资金额度。随着你在测试中建立信心,再逐步扩大这些边界。
第二,带外监控。监控必须是带外的。如果你告诉一个有智能的实体“我就坐在这儿盯着你的一举一动”,它的行为和无人监视时是不一样的。监控系统必须待在外部,观察这个自主系统是否违反了政策或对齐要求,并且拥有独立的权限,可以随时升级事态或直接把它关停。
这就是工程和技术。它完全可行,我们最近把它发布为 OpenShell,已有 100 多家公司加入这个框架。
在白宫签署协议时,前沿实验室的领袖们是否存在盲目冒进的心态?
安全与安保技术是 AI 的一部分。有一种误解,认为 AI 的能力和安全是相互正交的,就像把汽车的发动机和刹车、气囊、雷达分开一样。当我说要加速 AI 技术,那意味着同时加速安全与安保技术。没有人会说“我们把安全放慢一点吧”。你不可能把功能和安全拆开。
在总统和前沿实验室领袖们所在的内阁会议室里,每个人都是建设性的、富有成效的。无一例外,所有人都致力于安全、可靠地推进这个产业。如果一个系统不安全,它的功能就永远不可能被部署。功能性、能力、安全、安保,全都是第一优先级。
我们需要重新定义什么叫“赢”。赢不是 AI 技术产业赢了。美国赢,意味着美国的每一个行业都赢:礼来赢、沃尔玛赢、联邦快递赢、波音赢、美国军队赢,我们的学校和公民也赢。如果技术成功了,但没人能安全地部署它,那就谈不上任何胜利。
问:由商务部审查、白宫协议和安全工作组构成的“三足鼎立”监管框架是否切实有效?
通向未来最好的方式,就是快速行动。如果我们把时间花在争论“完美”还是“行动”上,我们会永远争论下去,永远到不了那里。
我很喜欢这个“三足鼎立”框架,它可执行、看得见摸得着,而且真正有牙齿。我们此刻就在采取行动,因为这对我们的公司、我们的产业和我们的社会都有好处。我不记得还有哪个产业,在发展的这个阶段,就建立起了这种程度的跨公司、政府与产业之间的协同。
对立法者,我想说两点:第一,来和我们待一段时间,先搞清楚技术问题到底是什么,再来监管。第二,看看我们正在主动落地的解决方案,帮我们把它做得更好。请建设性地参与。
行业预测每年将新增 40GW 以上算力,土地与电力等物理约束是否会成为阻碍?
需求肯定存在,而且更多。挑战在于从数字世界走向物理世界。障碍很多:土地审批、发电、变电站,以及建造 500 亿美元数据中心所需的专业技工,电工、装修工、水管工。这些技能是不可替代的。土地、电力、外壳和建设资源,将是最主要的瓶颈。
英伟达通过广泛多元化来缓解这个问题。我们服务每一家云服务商、Neocloud,以及戴尔、惠普、联想这样的企业伙伴,覆盖全生命周期:数据处理、训练、后训练、推理和智能体工具使用。如果某个州、某个社区、某个数据中心遇到瓶颈,由于我们的需求远大于供给,我们直接把供应链调往别处就行。
英伟达是全球性的基础设施。我们在欧洲、澳大利亚(比如我们宣布的 2GW 部署)、亚洲、拉丁美洲和中东都有在建项目。如果美国建得不够快,世界上其他国家都热切希望建在他们那里。
当可用电力和电网容量受限时,客户会如何选择算力架构?
英伟达的架构每瓦能产出最多 token。当可用总兆瓦数受限时,客户的选择会转向能拿到的最有生产力的计算资源,因为 CEO 们仍然背着要给股东交代的高营收目标。
我们的系统最容易出租、通用性最强、也最耐用。因为资源短缺会把买家推向效率,我们的市场份额实际上在上升。
我们每一吉瓦能提供的价值,比过去高得多。我们从 GPU 扩展到网络、高性能 CPU、存储计算,以及像 OpenShell 这样的安全基础设施。我们投放到单一吉瓦里的美元含量,从 180 亿美元涨到 400 亿美元以上,而且这个数字还在继续上升。
在大型 CSP 里,我们大约占他们资本开支的 40%;而在 CSP 之外,企业和新型云,我们大约占 80%。这两块都在翻倍,这就是为什么我们在全球数据中心资本开支中的份额还在继续扩大。
马斯克仅用数月就建成了 Colossus 集群,xAI 的算力扩张速度是否前所未有?
埃隆过去被归在我们的企业业务里,现在他进了我们的 CSP 数字。我很喜欢和埃隆合作。他用我们的技术训练模型、部署 Grok,Grok 的消费量正在暴涨,以及对外出租基础设施。
他有一个非常独特的优势:他热爱计算与物理建设的交叉地带,而且在能源方面,没有人比他懂得更多。
2028 到 2029 年,通过星舰把数百兆瓦算力部署到太空,现实吗?
我们的工程团队正在与 SpaceX 紧密合作,打造一种适合太空的新型服务器架构。
英伟达提供的每瓦性能最好,但更重要的是,我们的算力投资回报率无人能及。发射成本非常高昂,这意味着你不可能把低成本、低价值的计算送进轨道。你必须把历史上价值最高、最有生产力的计算系统送上去,才配得上这样的发射成本、才能拿到强劲的 ROI。
太空中的卫星需要通用性强的算力。如果你发射了一颗卫星却没有客户来租,它就闲置在那里。而英伟达的算力在全球所有闭源模型、开源模型、初创企业和企业之间是完全通用可租的。
它还很耐用。我们是唯一一家硬件公司:几年前买的硬件到今天还在变快,因为我们通过 CUDA 不断更新软件栈和算法。只要那颗卫星还在轨道上,我们就会持续维护和优化它的软件,这让它成为 SpaceX 的理想载荷。
前沿实验室的商业变现能否撑起数万亿基建,是否存在泡沫破裂风险?
人们试图只凭一两家 AI 实验室的收入,去外推整个基础设施的建设规模,这是对现状的误解。
英伟达大约占 AI 基础设施市场的 80%,我们的业务分成三个不同的部分:
第一,经典加速计算约占我们业务的三分之一。这是数据处理、分子动力学、物理、聚变模拟、量子化学、计算机图形和经典机器学习,比如 Visa 和万事达用 XGBoost 做欺诈检测,以及推荐系统。这块业务每年增长 30% 到 40%,与生成式 AI 实验室完全无关。
第二,前沿 AI 实验室大约占我们算力的 25% 到 30%。大家只谈论两家,但我们合作的是五六家:做 Muse 的 Meta、做 Grok 的 xAI、在我们系统上跑 Gemini 的谷歌、Anthropic,以及 OpenAI。
第三,剩下的三分之一是成千上万家初创公司和企业云租户。他们租用英伟达算力,去构建专门的物理 AI、生物 AI 和材料科学应用。
这些初创公司里大约 80% 使用开源基础模型。它们并不是在与前沿实验室正面竞争;它们拿 Nemotron 这样的开源模型,用自己专有的领域数据做微调,创造出特定领域的超级智能。
前沿实验室会构建通用智能,而垂直公司会在特定领域实现超级智能。指望仅靠两家前沿实验室产生数万亿美元的收入来支撑全球基础设施建设,既没有必要,也不正确。
为什么即使没有生成式 AI,全球计算基础设施支出依然会增长到数万亿美元?
几年前我预测过,到本十年末,基础设施支出将达到每年 3 万亿到 4 万亿美元,其中大约 1.5 万亿纯粹是计算。
在生成式 AI 出现之前,数据中心的资本开支就已经是每年 5000 亿美元了。在这个自然增长之上,还有一个事实:摩尔定律已死。
过去,如果你想要两倍的晶体管,等一年,价格不变。今天,如果你想要两倍的计算能力,你必须付两倍的钱,因为通用 CPU 的缩放已经停止了。由于世界每年都需要更多的计算,你必须叠加一个可观的乘数,来补偿摩尔定律的终结。即便没有 AI,半导体产业也本来就在成为全球最大产业的轨道上。
供需缺口巨大,目前最核心的供应链物理制约是什么?
我们在每一家 CSP、新型云和 OEM 那里都有庞大的订单簿。我们与客户按一年到两年的规划周期合作。而我们目前分配给客户的量,远少于他们想要的。
下游,土地、电力和外壳是制约。上游,先进封装材料是主要瓶颈。基板为了容纳更多硅片正在变大。这些大型有机材料,很难做到我们需要的精度。随着封装变大,管理热膨胀系数、翘曲和制造缺陷,需要极其出色的合作伙伴。硅光子同样供给受限。我们每周都在提高产量,但订单簿的增速持续超过供给。
为什么客户愿意在产品亮相前下达 500 亿到 1000 亿美元的订单?你的护城河为什么在扩大?
如果一家公司必须为下一代平台、在没见到实物的情况下就交出 500 亿甚至 1000 亿美元的采购订单,他们能信任谁?
客户知道 Vera Rubin 会比 Blackwell 更好,就像 Blackwell 比 Hopper 更好一样。在这些超级计算机上运行的工作负载极其复杂,你没法简单地在单颗芯片上跑一个快速基准测试。要给一个 500 亿美元的系统做基准测试,你需要一整个数据中心和数年的集成工作。
这和我们把 100% 的代工业务交给台积电是完全一样的道理。台积电是唯一一家我可以提前五年、在没见到实物的情况下就做规划的公司,我确信晶体管一定能交付,确信他们有足够的规模来应对我们巨大的需求波动,也确信他们拥有所有必需的封装、逻辑和硅光子技术。
英伟达是这个星球的基础设施公司。技术变化很快:从最初的 GPT 模型,到 FlashAttention,到跨 NVLink 72 的模型分片,再到 SSM 与 Transformer 混合的扩散模型。这一切都能在 CUDA 上无缝运行。
专用化是通用性和耐用性的敌人。如果你做定制 ASIC 芯片,它们缺乏灵活性。因为英伟达的系统能运行所有工作负载、模型和框架,一个 500 亿美元的数据中心可以轻松跑训练、后训练或智能体推理,也可以转租给其他客户。通用性和耐用性带来的是可出租性、高利用率,以及最低的总拥有成本(TCO)。
除了硬件销售,英伟达正在开辟哪两项全新的高利润商业模式?
我们大部分的融资和生态合作,正在建立两种新的商业模式:
第一,企业软件授权。要把这些庞大的数据中心当作工业级 AI 工厂来运营,所需的软件栈极其庞大。超大规模的 CSP 有自己的软件栈,所以我们对他们开源提供软件,让他们自行集成。但传统企业没有内部的 IT 或软件团队来管理这种复杂度。他们需要英伟达以 SLA 兜底,在整个运营生命周期内维护、保障和运营这些工厂。收取年度软件授权费,比如每颗 GPU 每年几千美元,而企业部署的 GPU 数以百万计,这会是一门非常庞大的经常性软件业务。
第二,云收入分成。某些区域性新型云负责拿到土地、电力和外壳,但依赖英伟达提供完整的全栈基础设施、软件支持和客户生态的消纳。在这类合作中,我们做前期投入,既拿到最初的销售收入,也在 4 到 10 年里持续分享收入。
这两条增长曲线,都由我们全球装机规模和软件生态的体量驱动,而不依赖单纯的硬件出货量。
你们把超过 50% 的自由现金流用于回购,这背后的资本配置逻辑是什么?
上个季度,我们通过股票回购返还了超过 60% 的自由现金流。
我们会继续在我们的生态里,对高质量公司做战略性投资。我们处在信息流的中心,与了不起的创始人共事,也能实实在在地帮助被投企业成功。
但是,相对于我们总体的现金创造能力,对外投资的占比会迅速下降。像早期投资 OpenAI 或 Anthropic 那样的机会,在那个阶段不会再重现,而我们整体的自由现金流创造正在以惊人的速度扩张。
展望五年后,你对世界会变得明显更好有多大信心?
放眼本十年末,全球的基础设施建设和硬件更新周期,很容易达到每年 4 万亿到 10 万亿美元。每当社会消耗 token、使用智能,那座计算工厂就必须运转。如果知识工作占全球 GDP 的 50 万亿美元,而 AI 带来 20% 的生产力提升,那就创造出 10 万亿美元的增量经济产出。把其中一小部分价值重新投入资本开支去生成智能,逻辑上完全成立。
我有 99.99% 的信心,结果会是压倒性地积极。有太多人极其在意把这件事做对。各个行业里那些专注的研究者和工程师,在公众视线之外,每天都在做着了不起的工作,确保这项技术负责任地向前推进。
担心是好事,我们也应该表达自己的忧虑。但预言世界末日,严重低估了人类的适应力、韧性和创造力。认为除非少数评论家来指导,事情就会搞砸,这是一种傲慢。这个行业里了不起的人们,每天都在做正确的事。
我们必须对自己负责,但我们应该期待一个乐观的未来。我们完全可以停下来,但如果今天就停,我们就放弃了建设一个更安全、更健康、更繁荣的世界的机遇。