混元大模型
腾讯控股 自研的全栈大模型矩阵(2023-09 公开发布),覆盖文本、图像、视频、3D 等多模态,是腾讯 AI 战略的核心底座。
概述
- 产品化:元宝 App(ToC)+ 腾讯云 TI 平台(ToB)+ 微信生态嵌入
- 多模态:Hunyuan3D(3D 资产生成)/ Hunyuan Video(视频生成)
- 开源策略:2024-11 开源 Hunyuan-Large(389B 总参,52B 激活),是当时全球最大开源 MoE
关键数据
关联
增量补充(2026-07-19)
来源:AI专家会议(社媒剪辑/转述 · 转发的匿名专家会议纪要,规格数字为口头估计,未经官方确认)
- 混元 3.0 规格(新版本,非对上文 Hunyuan-Large 的修正):混合专家模型 架构,总参 295B、激活参数 21B。与本页已记的 Hunyuan-Large(389B 总参 / 52B 激活,2024-11 开源)属不同世代不同型号,两组数字并存非矛盾(据 AI专家会议 2026-07)。
- 注意力机制取舍:标准版采用较保守的 MHA——训练与推理稳定,但计算量随文本长度平方增长;Turbo 版走更激进方案以降计算量(同源,社媒剪辑/转述)。
- 上下文 256K 是成本选择而非架构硬限:混元 3.0 上下文长度 256K,低于国内部分模型的 1M 水平,专家称主因是成本控制与商业收益考量,当前重心在把 AI 融入现有高流量业务、标准版能力已够用。若扩至 1M,推理延迟与成本理论上线性上升,经技术优化后实际增幅约 50%-60%,并抬高对训练数据与高阶算力卡(如 NVIDIA B200)的要求(同源,社媒剪辑/转述)。详见 长上下文窗口。
- 算力与效果的边际关系:扩大预训练算力主要提升知识承载量与准确率,对总算力需求增幅估 10%-20%;模型参数扩大对推理侧影响更大——参数扩大 50%,推理计算量可能增加 40% 以上(同源,社媒剪辑/转述)。
- 商业化数据:日均 token 吞吐量约 10 万亿;API 定价输入 ¥1/百万 token、输出 ¥4/百万 token,毛利率约 10%(每百万 token 赚 ¥0.4-0.5)。定位为 腾讯控股 Agent 落地的底座模型,内部不强制替换其他模型(同源,社媒剪辑/转述)。
- 国内外路线对比(专家框架):国内模型(混元、DeepSeek、通义千问 等)总参多在 200-600B、激活占比压在 10% 以内走极致性价比;国外闭源模型总参普遍超 1T 走极致质量。国内在数学 / 代码 / 中文 / 批量生产任务已进第一梯队,国外在复杂指令遵循与超长文本仍占绝对优势(同源,社媒剪辑/转述)。
- 下一代节奏:预计 2026Q4 发布新版本,大版本或小版本尚未确定(同源,社媒剪辑/转述)。