芯片只卖一次，软件维护一辈子

Tom's Hardware 报道当 NVIDIA CEO 黄仁勋在 NVIDIA CES 2026 主题演讲上发言时，话题跨越了 Rubin、功率交付、推理经济学、开放模型等领域。随后，Tom's Hardware 有机会在内华达州拉斯维加斯坐下来，参加了一场黄仁勋本人的媒体问答专场。

虽然我们不能全文分享会议记录，但我们深入挖掘了黄仁勋在专场中最重要的一些表态，部分内容经过编辑以保证行文流畅和清晰。总的来说，建议各位先熟悉 NVIDIA CES 2026 主题演讲中公布的话题，再深入阅读以下问答精华——其中会引用黄仁勋在台上讨论过的内容。

黄仁勋在问答中的回答有助于厘清 NVIDIA 如何着手大规模 AI 部署的下一阶段，始终强调的重点是：系统安装之后如何保持高产出。还记得我们之前那场 Computex 黄仁勋问答的读者，一定会想起这位 CEO 关于 AI 基础设施部署的宏大"五十年计划"愿景。

NVIDIA 正在为持续推理工作负载、受限的电力环境、以及必须在模型和部署模式不断变化时仍然保持有用的平台而设计。其他评论还包括在另一场面向分析师的问答中对 SRAM 与 HBM 部署方案的讨论。灵活性方面的优先级解释了近期在可维护性、功率平滑、统一软件栈和支持开放模型方面的架构选择——它们有助于描绘出 NVIDIA 如何在当前正在展开的初始建设阶段之后，思考 AI 基础设施的规模化问题。

Tom's Hardware 报道贯穿整场问答最一致的主题是 NVIDIA 对在真实环境下保持系统高产出的关注——黄仁勋把大部分时间花在了讨论宕机、可维护性和维修问题上。这一点在 NVIDIA 定位其即将推出的 Vera Rubin 平台时尤为明显。

黄仁勋"想象一下，今天我们有一台 Grace Blackwell 200 或 300。它有 18 个节点、72 块 GPU，以及一个配备九个交换机托盘的 NVLink 72。如果任何电缆或交换机出了问题，或者链路没有我们希望的那么稳固，甚至半导体疲劳随时间推移出现了，你最终都会想要更换某个部件。"

Tom's Hardware 报道黄仁勋没有照本宣科地背诵性能指标，而是反复描述了机架下线的经济影响，以及在组件故障时最大限度减少中断的重要性。在 NVIDIA 客户如今运营的规模下，故障是不可避免的。GPU 会坏、互联会退化、电力交付会波动。NVIDIA 正在试图回答的问题是：如何防止这些故障级联扩散为持续性的停机。

黄仁勋"当我们今天更换某个部件时，我们实际上是把整个机架都拿下来。它归零了。那个价值约 300 万美元的机架，从满载利用率变成零，一直保持停机状态，直到你更换了 NVLink 或任何节点并重新启动。"

Tom's Hardware 报道Rubin 的托盘式架构正是为了回答这个问题而设计的。通过将机架拆分为模块化、可维护的单元，NVIDIA 的目标是把维修变成一项常规操作。目标不是零故障——那是不可能的——而是快速恢复，让系统的其余部分在更换故障组件时继续运行。

黄仁勋"所以今天，有了 Vera Rubin，你只需把 NVLink 抽出来，系统继续运行。如果你想给任何链路交换机更新软件，你可以在运行中更新。这让我们能够让系统更长时间地保持运行状态。"

Tom's Hardware 报道这种对可维护性的强调同样影响了 Rubin 的组装和部署方式。更快的组装速度和标准化的托盘减少了系统在安装和维修期间的闲置时间。在一个机架代表数百万美元资本投入并持续产生收入的世界里，闲置时间是昂贵的——因此 NVIDIA 可以理解地把正常运行时间视为与吞吐量同等重要的核心性能指标。

黄仁勋"一切都归结于一个事实：过去组装这个节点需要两个小时。但现在，Vera Rubin 只需要五分钟。从两小时缩短到五分钟，这在我们的供应链中是完全颠覆性的。"

黄仁勋"没有任何线缆——而不是 43 根线缆——并且 100% 液冷而不是 80% 液冷，这带来了巨大的差异。"

Tom's Hardware 报道讨论没有集中在平均功耗上，而是反复回到瞬时需求——这正是大规模 AI 部署越来越频繁遇到麻烦的地方。

现代 AI 系统的功率会剧烈且不可预测地飙升，特别是在推理突发期间，工作负载快速上下波动。这些短暂的峰值迫使运营商按最坏情况来配置电力交付和散热设施——即使这些最坏情况只是短暂出现。这导致了数据中心内的闲置产能，基础设施是为那些持续时间不够长、无法证明其花费合理的峰值而建造的。

NVIDIA 对 Rubin 的回答是在系统层面攻克这个问题，而不是把它推给上游设施。通过在机架内部管理功率行为，NVIDIA 试图在功率需求冲击更广泛的电力分配系统之前就把这些需求峰值抹平。考虑到每块 Rubin GPU 的 TDP 高达 1,800 瓦，这意味着协调计算、网络和内存子系统的功耗方式，使机架向数据中心呈现一个更可预测的负载曲线。这实际上允许运营商更接近其持续功率极限运行，而不是围绕那些本来决定一切——从变压器规格到电池备份——的瞬态冲击来设计。

黄仁勋"当我们训练这些模型时，所有 GPU 都在协调工作，这意味着在某个时刻它们全部同时开启峰值，或者全部同时降下来。由于系统中的电感效应，那个瞬时电流波动确实相当大。可以高达 25%。"

Tom's Hardware 报道一个能提供略低峰值吞吐量但能持续维持的机架，比一个短暂命中更高数字然后因功率限制而被迫降频或停机的机架更有用。随着推理工作负载变得持续且与收入直接挂钩，这种一致性将愈发有价值。

同样的逻辑也有助于解释 NVIDIA 持续推动更高温度液冷的原因。在更高冷却液温度下运行降低了对冷水机组的依赖——冷水机组是数据中心中最耗电的设备之一。这也扩大了这些系统可以部署的环境范围，特别是在水资源可用性、散热基础设施或电网容量原本会成为限制因素的地区。

黄仁勋"对于大多数数据中心，你要么过度配置大约 25%——意味着你让 25% 的电力闲置——要么就放一整排电池来吸收冲击。Vera Rubin 通过系统设计和电子技术来实现这一点，那种功率平滑让你可以接近 100% 全时运行。"

Tom's Hardware 报道综合来看，对功率平滑、负载管理和更高温度散热的强调指向了效率提升来源的转变：NVIDIA 正在为可预测性、利用率和基础设施效率做优化。一个能在接近极限的状态下持续运行、而不迫使数据中心其余部分围绕它过度建设的系统，最终比一个纸面上更快、但受制于电力交付现实的系统提供更多价值。

Tom's Hardware 报道黄仁勋反复回到推理这个话题上，将其视为现代 AI 部署的决定性工作负载。训练仍然重要，但它是间歇性的；而推理持续运行、直接产生收入、并且暴露系统中的每一个低效之处。这一转变正在驱使 NVIDIA 远离传统的性能指标（如 FLOPS），转向与时间维度产出挂钩的指标。重要的是一个系统每瓦、每美元能生成多少有用的 token，而不是它跑单个基准测试能有多快。

黄仁勋"今天，在代币经济学（tokenomics）下，你通过生成的 token 来变现。如果在一个数据中心内，在有限的电力下，我们能生成更多的 token，那么你的收入就上去了。这就是为什么每瓦 token 数和每美元 token 数在最终分析中至关重要。"

Tom's Hardware 报道虽然业界对用更便宜的内存层级来做推理的兴趣日益增长，黄仁勋也强调了碎片化软件生态系统的长期成本。更换内存模型可能带来短期节省，但会产生长期义务——需要在工作负载演进过程中持续维护兼容性。

黄仁勋"做芯片是昂贵的，"黄仁勋说，"但 IT 行业最昂贵的部分是上面的软件层。芯片只卖一次，但当你构建软件时，你要永远维护它。"

Tom's Hardware 报道NVIDIA 的策略，正如黄仁勋所阐述的，是即使牺牲一些理论上的效率也要保留灵活性。AI 工作负载变化太快，狭义优化的系统无法长期保持相关性。通过保持统一的软件和内存模型，NVIDIA 相信自己可以在模型架构、上下文长度和部署模式等方面发生变化时吸收这些变化，而不会造成产能闲置。

黄仁勋"与其优化十七个不同的栈，你优化一个栈，而那一个栈跑在你的整个机队上。当我们更新软件时，整个 AI 工厂的尾端性能都会提升，"黄仁勋解释说。

Tom's Hardware 报道其明显含义是，NVIDIA 正在将持久性（durability）置于专精化（specialization）之上。系统被设计为在其生命周期内处理广泛的推理工作负载，而非在某个时间点的单一快照上表现卓越。

黄仁勋"模型的规模每年增长 10 倍。生成的 token 数量每年增长 5 倍，"黄仁勋解释说，随后补充道，"如果你静止不动两年或三年，考虑到技术发展的速度，那就太久了。"

Tom's Hardware 报道黄仁勋还谈到了开放模型的崛起，并讨论了他如何看待它们作为推理需求日益增长的推动力。

黄仁勋"去年最大的惊喜之一是开放模型的成功。它们真的起飞了，以至于今天每生成四个 token 中就有一个来自开放模型，"黄仁勋说。

Tom's Hardware 报道开放权重模型降低了整个部署栈的摩擦，使实验变得更便宜。它们还缩短了迭代周期，允许超大规模企业之外的组织以有意义的规模部署推理。这不仅仅是多元化了谁在运行 AI 模型，而且实质性地改变了推理运行的频率和运行的地点。

Tom's Hardware 报道从 NVIDIA 的角度来看，重要的不是模型是专有的还是开放的，而是它创造了多少推理活动。开放模型倾向于在更广泛的环境中扩散——从企业集群到区域云服务商和本地部署。

Tom's Hardware 报道每一个单独部署的规模可能更小，但聚合效应是总 token 量的扩张。更多端点更频繁地生成 token 推动了对计算、网络和内存的持续需求，即使每个部署的平均利润率更低。

黄仁勋"这极大地推动了对 NVIDIA 和公有云的需求，这解释了为什么现在 Hopper 在云端的价格实际上在上涨。"

Tom's Hardware 报道开放模型通常运行在最大的超大规模环境之外，但它们仍然需要高效、可靠的硬件。通过专注于系统级效率和正常运行时间，NVIDIA 正在将自己定位为服务更广泛的推理场景，而无需单独的产品线。

Tom's Hardware 报道归根结底，黄仁勋的评论表明 NVIDIA 将开放模型视为对其业务的补充。它们扩大了市场而不是蚕食市场——前提是底层基础设施能够高效地支持它们。

黄仁勋"总的来说，全世界正在产生的需求确实相当可观。"

Tom's Hardware 报道纵观关于 Rubin、功率交付、推理经济学、开放模型和地缘政治的讨论，黄仁勋的评论描绘了一幅一致的画面：NVIDIA 正在为保持高产出、容忍故障、在真实约束下高效运转的系统做优化。峰值性能仍然重要——它永远都重要——但它看起来不再是唯一的驱动因素。