SemiAnalysis 算机器人该在哪推理:放数据中心成本不到机载芯片一半,难在无线网络
- SemiAnalysis 按一块 B300 带 12 台机器人测算:工业场景下推理放进数据中心,单位算力成本是机器人自带 Jetson Thor 的 46%,家用场景低到 12%。
- 省钱全靠利用率:不计利用率两者单位算力成本几乎一样,差距来自 GPU 按 90%、机载芯片按 40% 满负荷的假设;一块 GPU 至少要带 5 台机器人才划算。
- 实际部署多数仍放机身:Sunday 进家庭测试两天就因 WiFi 抖动放弃云端推理,Agility、Verne 的模型都在机身上跑;波士顿动力是少数把推理层放到谷歌 TPU 上的公司。
SemiAnalysis 2026 年 9 月 14 日发布的长文,作者 Ivan Chiam、Gianluca Bencomo、Zane Fong、Bryan Shan、Dylan Patel、Reyk Knuhtsen。它回答一个问题:通用机器人的「大脑」应该装在机器人身上,还是放在数据中心的 GPU 上。
全文分四块:机器人模型分几层、哪一层能离开机器人;芯片与内存供应链对两条路线的约束;B300、RTX PRO 6000、Jetson Thor 三套方案的总拥有成本;以及五家已经在出货的机器人公司各自怎么选、为什么。
讨论范围:只谈能听懂开放指令、适应陌生场景的通用机器人。工厂里跑了几十年的传统运动控制,以及只干一件事的窄域策略模型,本来就跑在小芯片上,不在讨论之列。
口径说明:原文为英文,本篇为中文重制与注释,金额均为美元。报告正文与表格有两处数字不一致,本站以表格为准并在对应位置注明。凡本站计算或解读之处,均标注「本站」。
机器人模型为什么还小:先定硬件,再让模型去适配
和大语言模型的顺序正好相反
大语言模型的做法是先训练、再想办法部署:模型第一,硬件第二。报告说机器人把这个顺序倒了过来,原因是两条约束。
- 时间:机器人跑的是实时控制回路,不能错过截止时间。聊天机器人慢一点只是让人多等;机器人慢一点,周围环境已经变了,算出来的动作就作废了。
- 成本:用大模型时,屏幕是用户自己的。机器人则要由制造商在每一台上预先装好算力并买单,规模上去之后是数十亿美元量级的资本开支。
所以机器人身上的硬件是固定的,模型要去适配能以合理成本造出来的硬件。报告的原话意思是:前沿机器人模型的能力上限,会被「买得起、跑得了实时」的硬件卡住。
这解释了为什么机器人模型比大语言模型小两到三个数量级。报告也提醒,机器人模型的参数量不像大语言模型那样有意义:大模型实验室按训练预算和推理成本选尺寸,机器人实验室按数据能撑多大、装得进 Jetson 或 H100 延迟预算来选。参数量反映的是约束在哪,不是尺寸最终停在哪。
| 模型 | 机构 | 参数量 | 在哪跑 |
|---|---|---|---|
| π0 | Physical Intelligence | 约 30 亿 | — |
| π0.7 | Physical Intelligence | 50 亿 | 机器人外的一块 H100 |
| GR-3 | 字节跳动 | 40 亿 | — |
| GEN-0 等 | Generalist | 约 100 亿 | — |
| DreamZero | 英伟达 | 140 亿 | 机器人外两块 GB200 才能实时 |
| RoboTTT | 英伟达 | 约 30 亿 | 足够小,可装在机器人上 |
| 对照:大语言模型 | |||
| gpt-oss | OpenAI | 1,200 亿 | — |
| GLM-5 | 智谱 | 7,440 亿 | — |
| Kimi K3 | 月之暗面 | 2.8 万亿 | — |
模型尺寸往哪走,报告没有下结论。DreamZero 是一个基于视频扩散的世界动作模型,140 亿参数要两块 GB200 才能实时跑;几个月后英伟达的 RoboTTT 走了反方向,用约 30 亿参数、靠测试时训练不断更新自身权重,换来几分钟的可用上下文,而且小到能装在机器人上。
报告的判断是「多种方案并存」:有的机器人全部机载,有的把一部分认知放到数据中心。对需要真正智能的通用机器人,SemiAnalysis 倾向于机器人外的算力,理由是能摆脱机身的算力和功耗预算,还能在整个机队之间共享推理资源。代价是网络问题。
注册免费,可读注册层内容;解锁全部档案凭会员兑换码 · 返回报告目录
- 📡Serenity 实时订阅 全网订阅第一「白毛股神」一手推文,分钟级中译直推邮箱,每天约 20~30 条,含她付费订阅才有的独家内容
- 💼白毛持仓 · 完整台账 她公开推文里亲口说过的持仓,整理成一张带原话出处的表:75 只在持 · 43 只明确否认 · 16 只已清仓,每条带首次披露日、成本锚与最后确认日,新披露实时上表。不是荐股,是「她说过什么」的可核对记录
- 📈大行研报 · ima 知识库对话 境内外一线投行研报每日汇入腾讯 ima 知识库(AI 相关精选 7,000+ 份、境内外日增 30+),你在库里通过 AI 对话随问随答、带出处,等于雇个 7×24 研究助理
- 🗺️知识库全开 + 深度报告解析 1,151 公司 / 694 概念全词条 + 全景图谱,外加 86 篇机构深度报告可视化解读、巨头供应链拆解、产业大事件复盘
- 🎓两套课程全解锁 金融人的产业链大课 18 讲(能源→芯片→基础设施→模型→应用,每周上新)+ 公司深度研究 27 门(英伟达 / 台积电 / SK 海力士 / 博通 / 中际旭创…一家公司一门课,分单元、节节带测验、给成绩单)
- 💬会员微信群 入圈后可加入会员微信群,会员之间日常交流,我也在群里
9 月 30 日 12:00 到期 · 仅剩 11 天