Sam Altman 与 Greg Brockman 在 DealBook 峰会:人必须掌控未来,对齐做得到,算力仍是最大限制
《纽约时报》DealBook 峰会上,Andrew Ross Sorkin 同时访谈 OpenAI 首席执行官 Sam Altman 和总裁 Greg Brockman。话题从黄仁勋近况和两人的搭档关系开始,谈到“人必须掌控未来”与 Nadella 的“围堵”论、思维链监控、Hugging Face 事件后的安全冲刺、Anthropic 次日上市、Altman 不持股,以及算力、收入增速、自研芯片和《纽约时报》诉讼。
采访者……以及 OpenAI 联合创始人、总裁 Greg Brockman。Sam Altman 和 Greg Brockman 在 11 年前创立了 OpenAI,说来正好是下个月满 11 年。Sam 是首席执行官,Greg 是总裁。将近四年前,2022 年 11 月,他们发布了基于 GPT-3.5 模型的 ChatGPT,改变了世界,从那以后我们基本一直在谈论它。现在每周有超过 10 亿人在用 ChatGPT,我想现在是 12 亿出头。关于未来、关于我们身边正在发生的一切,我们有无数问题要问,还有安全与安保问题、新前沿的经济账,以及围绕这一切的政治。请欢迎 Sam 和 Greg。很高兴见到二位。
要谈的事太多了。Anthropic 明天上市;有黄仁勋的消息;你们昨天刚发布了新模型;JD Vance 在华盛顿说现在出现了安全方面的担忧,我想部分就是因为这些事。这些我都想谈。我知道你们已经被问过黄仁勋的事,我们刚才在后台也聊到了。你们怎么看?你们一直看着这件事发展。我很好奇,你们俩有谁跟他聊过吗?
Greg Brockman我想说,黄仁勋是独一无二的,毫无疑问。我跟他聊过一点。我和我妻子跟他和他的家人是朋友,所以我们只是以私人身份联系他,在这个时候陪陪他和他的家人。
采访者他状况怎么样?
Greg Brockman我只能说那是一次私人谈话。显然,这对所有人来说都是艰难的时期。但我认为英伟达是一家了不起的公司,黄仁勋在那里建立起来的东西,显然是能长久存续的。我们很期待继续合作、一起面向未来。
采访者Sam,你也跟他聊过?
Sam Altman聊过。黄仁勋是最早在我们身上下大注的人之一,我们也在英伟达身上下了大注。很难想象没有黄仁勋的 AI 行业。我觉得“独一无二”这个说法很贴切。
采访者你跟他聊的时候,你觉得他认为自己还能回来吗?
Sam AltmanGreg 和我对这种处境,可能比一般人多一点感同身受。我要说一件我不太认同的事:地球上每个人都拿着这样那样的随便什么理论在猜测。所以我只想说,祝黄仁勋一切都好,祝英伟达一切都好。这件事接下来会怎样,我不觉得世界还需要再多一套随口的看法。
这是哪一场
DealBook Summit 是《纽约时报》旗下财经栏目 DealBook 每年举办的商业峰会,由 DealBook 创始人 Andrew Ross Sorkin 在台上逐场访谈企业家和官员,全程直播。本场是 2026 年峰会上对 OpenAI 两位联合创始人的同台访谈,也是两人少见的一起接受公开采访。
采访者好,我问一个跟黄仁勋无关、但某种程度上又相关的哲学问题,因为我经常想这个问题,其实在这个活动的背景下也常想:CEO 崇拜。登上这个舞台的很多人,包括你们两位,身边都围绕着一种 CEO 崇拜,觉得有些公司如此独特、这些人如此独特,没了他们公司就运转不下去。你曾被赶走,后来又回来了,部分原因就是有人认为……你们俩都曾被赶走,又都回来了。
Sam Altman两种情况之间有很多差别,在这上面过度解读很诱人,我不想这么做。但我认为,OpenAI 之所以成功,很大一部分原因是 Greg 和我有一种独特的搭档关系,给 OpenAI 带来了重要的东西,而且持续了到现在快 11 年。
那么没有我们,公司能成功吗?能。但我们俩一起,是否带来了某种我认为对推动 OpenAI 走到今天很重要的东西?绝对是。过去 11 年里,我们的搭档关系是这件事里最让我享受的部分之一。我记得 OpenAI 早期,Greg 会给我发截图,我想他还在推特上发过几张,显示他一周写多少个小时代码,那在 OpenAI 内部成了一种传说。现在 Greg 换了一种方式工作,用同样的狠劲管理公司,这很难得,我不愿去想没有这些的 OpenAI 会是什么样。
所以,人们是不是会把公司的重要性过多投射到某一个人身上?是的,大概是。但我是否也认为,有些人确实带来了非常特别、非常难找的东西?也是。我很庆幸能和 Greg 这样的人共事这么久。
采访者能不能解释一下?因为我想我们以前从没见过你们俩一起坐在这样的台上。Sam,你一直是这家公司的门面;Greg,你过去在某种程度上处在幕后,但现在越来越多地在管业务。你们俩怎么合作?这种搭档关系是什么样的?从长远看,你是想退到幕后、让他站到台前吗?这会怎么安排?
Sam Altman你想先说吗?我第二个说。
Greg Brockman好。要理解我们怎么合作,我想得倒回 OpenAI 的起点。2015 年 7 月,Sam 组了一顿晚饭,我们在饭桌上讨论后来变成 OpenAI 的那个想法:现在召集一批最好的人建一个实验室,真正为 AGI 带来正面影响,是不是已经太晚了?没人能说出一个它根本做不成的理由。所以 Sam 和我一起开车回城里,我们看着对方说:我们必须干这件事。那时候我正好在两份工作之间,所以第二天我就全职投入了。Sam 还有本职工作,但我们一直在打电话。
大概一天五六次,每次打两分钟,对吧?节奏快得惊人,那是我在职业场合里跟任何人有过的最高带宽的交流。我们一开始就是这样,今天也百分之百是这样。过去一周,我们大概聊了……我都数不清,一二十个不同的话题。有时和别人一起,有时就我们俩一对一;有时是长电话,把很深的问题翻来覆去地讨论,有时极快。我认为这种带宽、我们之间建立的信任,以及我们怎么划分各自负责的领域,都是这 11 年里一点点建立起来的。
采访者你们在哪些事上有分歧?
Greg Brockman我们往往花大量时间去想的,某种程度上就是 AI 里最棘手的问题:我们在造的到底是什么?未来会走向哪里?我们过去的做法,哪些到了接下来要做的事上会行不通?我们需要怎么演进?怎么对外讲?怎么谈论它?怎么跟公司内部沟通?怎么执行?所以我们会花很多时间来回讨论。有时是具体用哪个词,有时是我们真的要进入这个领域吗。我们总会走到一起,有时要花几个月才能收敛。有时是保留分歧、照样执行,有时是真的磨到底,形成共同的看法。
采访者你在哪些事上跟他有分歧?
Sam Altman其实我本来也想说类似的话。我们可以举出一些例子,比如我们在要不要进入某个新领域、要多聚焦一点还是少聚焦一点上有分歧。但我认为最重要的,是那些我们有分歧、然后在中间某处走到一起的事。现在有一些最重要的问题……我们最近一直在聊的一件事是:
AGI
通用人工智能(Artificial General Intelligence)的缩写,指在大多数认知任务上达到或超过人类水平的 AI 系统。OpenAI 的使命表述是确保 AGI 造福全人类。
Sam Altman硅谷出现了一种说法,要去反驳它几乎显得荒唐,但我们俩都非常深信:人必须继续掌控未来。现在越来越多的人在说,要么会、要么应该,逐步把未来交接给 AI。我们俩都认为那是个糟糕透顶的主意。但问题是,怎样才能真正防止它发生?考虑到各种压力,考虑到其他公司可能会做什么,我们怎样才能确保人在很深的意义上继续掌控未来,不出现无论是意外的还是有意的交接?这一点我们俩都同意。但对于到底需要做什么才能做到、一路上有哪些地雷、怎样真正确保它,我们俩的看法会有点不同。这就是我们需要辩论、真正磨下去的地方。
采访者我想就这一点深挖下去,因为“人在回路中”这个想法非常非常重要。我一直以为——
Sam Altman不是在回路中,是掌控。
采访者掌控,好。但我们正处在这样一个时刻,这也关系到我们现在在全国各地看到的一些问题:人们担心 AI 正在接管,自己去做事。而我一直以为,
“在回路中”和“掌控”差在哪
“人在回路中”(human in the loop)指 AI 的某些步骤要由人确认才能继续,人是流程里的一个环节;Altman 纠正为“掌控”(in control),意思是由人决定方向和边界,哪怕具体步骤都交给 AI 去做。两者的差别在于,人只是在流程里把关,还是对整个系统拥有最终决定权。
采访者……AI 要发挥作用,本来就应该自己去做事。今天晚些时候我们会访谈 Satya Nadella。大约一个月前他公开说,他认为“对齐”这个想法——让模型本身对齐——永远实现不了,模型没法跟人类想要的东西对齐;唯一的办法是“围堵”它们,也就是说,AI 永远会做它自己要做的事,你得在它外面建一套容器系统,在上面设警察。如果这是真的,那这一切还说得通吗?
Greg Brockman我是这样看的:随着你造出能力越来越强的 AI——我认为我们开始到了 AI 相当有能力的阶段,对吧?我们能解决一些最聪明的头脑花了好几十年都没解决的数学难题。很明显,我们将能把它用到有经济价值的领域。
比如,我们开始在芯片设计上看到效果。我们今天宣布,和 AMD 合作,只用我们的模型,就在五个月里拿到了相当于一整年的完整代际改进。这是在人类工程师所做工作之外的,一整年的改进,只靠 AI,只靠在持续进步的 AI 能力。所以它的经济价值确实非常巨大,能解决原本完全不可能解决的问题。但这也意味着在对齐、安全、安保这些方面的责任越来越大。
我认为我们要完成的事情是多层的。监控就是一个好例子,我认为我们会需要新的监控技术。我们观察 AI 是否在做我们想让它做的事,靠的是思维链监控。这些 AI 的工作方式是,它们会把自己的想法、思考过程写出来。我们最初开发这项技术时就说,必须确保它保持“忠实”,也就是它真的反映 AI 是怎么解决问题的。这意味着某些技术路线:你不能训练 AI 让思维链“看起来好”,你得在训练时某种程度上不去看它。尽管强迫思维链看起来合理确实能让 AI 更聪明,但你希望它真实反映 AI 解题的过程。
但随着模型能力变强,它们能在一次前向传播里完成更多事,不需要把思考写出来。这意味着我们需要一种新的监控方法,而且我们得把它做出来。我认为会有这样的时刻:能力到了某个点,思维链的可监控性下降了,我们就得改进其他手段。但我认为这些问题都是技术问题,我们可以进行技术性、科学性的讨论。
采访者但是 Sam,Satya 说的对不对?对齐这个想法永远到不了那一步?他以前认为规模定律会带来对齐,而我想他现在是在说情况已经不是这样了。
Sam Altman这一点我不同意他。我认为我们能够让模型对齐。我可能同意他的地方在于:随着模型能力增强,对我们的对齐技术、对可监控性以及 Greg 刚才说的其他东西,要有极高信心的那道门槛,需要越抬越高。但我预计我们会持续取得进展,而且我认为我们推进能力的能力,将取决于我们能否取得这种进展。回到“人必须始终掌控未来”这件事上:如果做不到相应的技术工作、确保我们能监控和对齐这些模型,却去推高模型在某种意义上的聪明程度,那是不负责任的。
对齐与“围堵”是两条路
对齐(alignment)指让模型本身的目标和行为符合人的意图,问题解决在模型内部;Nadella 所说的“围堵”(containment)则假定模型内部无法完全对齐,转而在外部加权限隔离、监控和审计,像给它套一个笼子。现实中两者往往并用,分歧在于哪一层是最终依靠。
思维链监控为什么要“不去看”
推理模型在给出答案前会先写出一段中间推理,即思维链。监控它就能看到模型打算做什么。但如果训练时奖励“思维链看起来规矩”,模型可能学会把真实意图藏起来,只写好看的推理,监控就失效了。所以 OpenAI 等实验室主张训练时不对思维链内容施加优化压力,保持它“忠实”。
为什么能力变强会让思维链监控失灵
模型每生成一个词,内部都要做一次前向传播:输入经过各层网络计算得到输出。写出来的思维链是把多步推理摊开在文字里;如果模型足够强,在一次前向传播的内部计算里就能完成过去需要几步文字推理才做得到的事,这部分思考就不会出现在思维链里,监控者也就看不到。
Sam Altman这真的很了不起。你开场时说,ChatGPT 推出还不到四年。ChatGPT 和 3.5 刚出来时,大多数人看了都说:“这也太蠢了,真不敢相信有人为这个兴奋。”而在最近几个月,我们看到模型在做芯片设计,在证明尚未被证明的数学定理。我们还看到前面有巨大的能力进步。所以这项技术已经走了很远,还会走得更远。我认为现在是时候说,我们要认真看清事情的走向,看清走到我们想要的地方所需的技术条件。但我认为这是做得到的。
采访者你们遇到了一大堆安全问题,我想谈一谈,但我先问这个,因为它跟 Anthropic 有关,你们知道,它可能明天早上上市。你今年秋天对《财富》杂志说:“考虑到眼下安全方面发生的一切,我其实认为现在上市是不明智的时机。”你为什么这么说?有人说,“这是在为自己说话,因为 OpenAI 不上市。”你认为现在到底在发生什么?
Sam Altman我们计划在某个时候成为上市公司,我认为有很多理由说明那是正确的事。但我确实认为,最近这几个月是一个全新的、有挑战的时期,而且在很长时间里,我们前面还会有新的挑战期,关乎摆在我们面前的安全要求。很多人都提到过这种张力:所有这些公司,乃至在某种程度上依赖它们的整个经济,需要在商业上可行、有竞争力;同时我们又要确保把安全和安保放在这之前。显然我们想两者兼顾,但需要取舍的时候,我们很清楚该怎么取舍。这是一件复杂的事情。
采访者但你认为六个月或十个月后再上市会更安全吗?从现在到那时会有什么变化?
Greg Brockman我想说的是,今年真的是转型的一年,对吧?对 OpenAI 是这样,对整个行业我想也是这样。部分原因还是模型能力:我们现在到了要讲“开发阶段安全”的时候。我们一向关注部署安全——你有一个模型,部署时把这些都测一遍。但现在模型能力已经强到,即使在开发过程中,我们也要考虑安全、安保和对齐。这是新的,也确实是一次巨大的文化转变。我认为这是我们投入很多的地方。要做的事永远还有很多,但这对整个行业都非常重要。
部署安全和开发安全
部署安全指模型发布给用户之前做的评测和防护:测它会不会帮人做坏事、会不会输出有害内容。开发安全把关口前移到训练和内部试用阶段:模型还没发布,但内部使用时已能接触真实系统和网络,就可能造成实际影响,所以开发过程本身也要加隔离、监控和权限控制。