Sam Altman 在 CNBC 开发者日谈安全、开发者与 IPO

主持人（Scott Wapner）这一刻到了。Sam Altman 正在与 CNBC 的 Kate Rooney 现场连线。Kate，交给你。

采访者谢谢，Scott。Sam，很高兴见到你，也感谢你邀请我们来到开发者日。能在旧金山办这场活动很不错。现场很忙，观众一直在排队，还有很多话题可谈。

我想先问 AI 安全。我们已确认的最新消息是，OpenAI 因安全担忧基本放弃了推出一款新模型的计划。究竟发生了什么？为什么这样做？这与以往发布模型时有什么不同？

Sam AltmanAI 必须是为人构建的，也必须真正对人有益。其中一部分就是安全：它应始终处于人类控制之下，按人们希望的方式工作，让使用者确信不会发生坏事。

随着模型能力增强，我们所采用的安全论证也必须接受越来越高的标准。未来会有很多优秀的新模型，但我们一直说，对齐、安全、监控和安保必须远远走在能力前面。过去也有模型达不到我们想要的门槛，我们会另做一个、修好后再发布；只是现在大家显然更关注这件事。

采访者这一个模型究竟在哪些地方令你担心，甚至让你不愿发布？

Sam Altman我不想对这一件事过度解读。这个模型在我们看的几项评测上略差一些；把它理解为出于极度谨慎即可，并没有什么特别可怕的事。

采访者这算暂停吗？如果总统担心进展放得太慢，你们的沟通是怎样的？他会不会把这样的标题理解为一次暂停？

Sam Altman我仍会把它归为正常流程：我们经常做出一个模型、测试后发现达不到标准、改完再晚些时候发布。我们确实在控制推进节奏，有时这包括不训练某个模型。

大家都想要好模型——好吧，不是每个人，但很多人想要。我们也想要；但必须以能提出很有把握的安全论证和主张的方式来做，让人们不必焦虑，并能信赖我们推出的模型。

现在模型进步得很快，我们认为在安全、对齐和监控上取得更多进展是审慎而明智的，才能继续推进。所谓控制节奏，并不是因为不想要更聪明的模型就停下；而是改善那些必须改善的领域，以便有把握且安全地继续前进。

采访者所以控制节奏并不总意味着放慢，这一点容易被误解。

Sam Altman对。它意味着用负责任的方式推进，并给出世界可以依赖的保障。

采访者Hugging Face 那件事是一个分水岭，此后似乎每隔几天就有新的例子。当时你是否低估了问题的深度？报道称这类事件有数千起，这令你意外吗？

Sam Altman我们想做的是过度沟通、极其透明。据我所知、据我们所知，没有其他事件像那次 Hugging Face 事件一样严重；但我们会尽量公布找到的每一个小案例或其他案例。

作为使命的一部分，我们希望世界理解这些模型能做什么。OpenAI 的特别之处在于覆盖面很广：做消费者、企业和开发者业务；不同人对 AI 所处阶段的理解也很不同。我们希望所有接触产品、生活在这个世界中的人，都能了解技术所处的位置，以及需要缓解的风险。

采访者你是否觉得只是外界更关注 OpenAI？看起来其他公司没有同等程度的事件，还是大家只是更关注你们？

Sam Altman这正是我想说的：我们接触的人太多，也做了太多不同的事。

采访者黄仁勋说他发布的一套软件本可以防止那次事件，并把它称作工程问题。OpenAI 没有加入那个项目，Anthropic 和其他公司加入了。你同意它本可解决问题吗？

Sam Altman据我了解——我并不特别熟悉细节——那是件好事，我们也在做类似的事；但我不认为它是完整解法。若只把 AI 安全当作工程问题，我们会错过一个非常重要的点：面前还有科学问题。我们仍要发现怎样让这些模型对齐，也必须解决那个科学问题。

采访者我们现在在开发者日现场，看起来有数百名开发者、公司，也可能有投资者。你怎样在鼓励他们使用技术、展示它的能力，同时又告诉他们它是安全的之间拿捏分寸？

Sam Altman我认为方向相同。人们希望使用这项技术，也希望知道它是安全的；一项优秀技术的一部分，就是成为业内最安全、最对齐、最可靠的 AI。

采访者如果一间初创公司用 OpenAI 做出很好的应用，却发生严重问题，谁负责？

Sam Altman责任框架正在全世界被广泛讨论。我猜想会像其他行业一样是多层级的：以汽车为例，零件有缺陷时可能承担相应责任；车厂若以不符合规范的方式组装，也可能负责；有人醉驾，则是那个人的责任。

因此，取决于过错在模型、模型被如何使用，还是有人故意滥用，我预计会形成新的责任框架。

采访者你今天给开发者的推介是什么？成本似乎一直是你们的主题；在台上你会如何解释，为什么 OpenAI、为什么 ChatGPT 是最好的选择？

Sam Altman今天有二十多项公告。会有使用 AI 的新方式、让 AI 系统持续为你工作和提供帮助的新能力、新模型，也会谈成本，以及很多面向开发者的新工具。

看到这一切汇聚很令人兴奋；我认为我们为开发者提供了全面最好的方案。

采访者成本确实是这里的核心话题。我们此前也谈过蒸馏：一些更便宜的开源模型被你和 Anthropic 指责基本是在复制你们的技术。你如何看待蒸馏和这些模型？

Sam Altman我认为我们在每个价位都提供最好的模型。我知道人们会谈开源，但我不认为市面上有任何你能运行的开源模型能在成本和价格比较上胜过我们。说到成本，来看今天的发布吧，我们有些很酷的东西。

采访者再谈智能体。马克·扎克伯格和 Muse 看起来在智能体和硬件方面进展很大。你怎么看 Muse？试过吗？你会被扎克伯格威胁到吗？

Sam Altman我试过，它看起来是个不错的产品。至于威胁？没有。

他是很令人印象深刻的人，那家公司资源也很强，但我对我们的路线图感觉很好。

采访者他也展示了硬件可能做到什么。Jony Ive 在哪里？今天会有硬件消息吗？

Sam Altman我不想剧透，但我认为会有值得等待的东西。今天没有，不是今天。

采访者硬件计划是什么？如果扎克伯格似乎已经先起跑，尽管他们有些产品还在研发中，这会不会让你们必须做出更好产品的压力更大？

Sam Altman我不担心在新硬件上抢第一。新硬件很难做；新的计算形态很少出现。

我们希望达到的质量门槛，是让用户会喜爱它，并让它真正成为与 AI 交互方式的重要部分。这需要时间，我们会以很高的质量标准来做。

采访者刚才谈到《周六夜现场》的 Weekend Update。显然有一部关于你的电影，我不知道你是否看过预告片。公众认知上存在一些问题：也有人认为你和 Dario Amodei 这样的领导者目前名声并不太好。

Sam Altman我认为，做这样一件对社会重要的事的人，理应受到严格审视。我看过那部电影的预告片；它看起来会是一部糟糕的电影，但我欣赏人们的创造力，也确实支持这一点，希望他们玩得开心。

这是一件大事，我理解人们为什么焦虑。若他们需要把焦虑投射到某个人身上，或者需要一点释放、拿我开玩笑，我并不介意。

采访者你的联合创始人 Greg Brockman 今天在华盛顿特区，你昨晚也出席了国宴。你认为华盛顿可能做到什么？尤其国际协调方面，幕后对话是什么样的？

Sam Altman我不想过于乐观，因为过去我也曾以为华盛顿会发生什么，结果并没有。但这一次我觉得人们在认真对待它，我很乐观。尽管有过往经验，我还是乐观。

采访者最后问 IPO 时间表。我知道你不喜欢谈 IPO。你说过今年上市不明智；明年会有变化吗？等到 2027 年可能上市时，安全辩论会成为过去吗？

Sam Altman我没有特别的时间表。一旦我们跑过几个安全案例，并觉得理解了怎样应对下一阶段的 AI、怎样安全地做到这一点，我认为可以考虑。

但我们的使命首先是用 AGI 造福人，并确保安全。在我觉得局面仍很不稳定的时候，带着 IPO 向前猛冲，我不想这么做；我希望只专注于使命，而不是新上市公司可能带来的各种挑战。

我真的认为，现在应把安全和使命放在第一位。

采访者说得有道理，Sam。我们让你去做主题演讲，也会收看。谢谢你抽出时间。

Sam Altman希望你喜欢。谢谢你们来。