超级智能蓝图：变化已经发生，世界尚未消化

Nicholson大家下午好，欢迎来到 OpenAI Forum。

Nicholson我是 Chris Nicholson，很高兴今天和大家在一起。这个论坛是一个认真对话的场所，讨论 AI 在世界上是如何被使用的，我们从中学到了什么，以及更多的人如何能帮助塑造它的发展轨迹。今天的对话聚焦于技术领域最大的问题之一：当 AI 系统的能力急剧增长时，这意味着什么，以及我们该如何思考它对科学、工作、我们的共同生活和治理的影响。为此，我和 Sam Altman 一起——OpenAI 的联合创始人和 CEO，Josh Achiam——OpenAI 的首席未来学家，以及 Adrien Ecoffet——这里的一位资深研究员。好，让我们开始吧。

NicholsonSam，我们今天上午发布的蓝图大量谈到了超级智能。我心中一个很大的问题是：我们为什么要在现在做这件事？以及，有哪些你在内部能看到的东西，你希望所有人都知道？

Altman最大的原因很简单：进步的速率在持续加速，我们相信我们现在已经非常接近了。而且这不会是一次性事件。在接下来几年里，会出现强大的模型，以重要的方式影响世界。参与这些模型研发的研究员们做出了令人难以置信的工作，产出了这一整套想法，而这些只是用来开启讨论的早期想法。我确定，当全世界辩论所有这些问题、面对即将到来的模型和我们面前的研发管线时，我们会得出好得多的想法。而且，你知道，我们可能是错的。我们可能会碰到某堵墙。我们并不完美。但根据我们所看到的，我们预期很快就会身处一个拥有极端强大模型的世界。

Altman而随着能力的斜坡持续上升，我认为这将对经济、对我们的生活方式、对我们能做的事情产生巨大影响。我从观察世界经历一些转变的过程中学到的一个经验是：公众、我们的领导人、政治体制，在你真正必须做出决定之前，用来辩论想法的时间越多，你就越有可能做出好的决定。因此，鉴于我们所看到的即将到来的东西，现在就启动这件事——在这成为一个非常大的公共辩论议题之前——我认为很重要。

Nicholson当然。说到辩论，Adrien，我们在这个过程中很早就引入了大量研究员。我觉得这可能是一次独特的尝试，在有这么多研究员与那些经常思考政策的人紧密协作。这对你和整个研究团队来说是什么感受？

Ecoffet是的。我觉得这是一次非常有趣的经历。这是我第一次积极参与一份政策文件的写作。在某些方面有点让人谦卑。有时候作为研究员，我们会有这些抽象的想法，哦，我们真的应该思考一下这个的经济影响，或者关于安全的政策。但是，你知道，思考这些是一回事，真正拿起笔来想出具体的政策想法——而且会被你的同行研究员辩论——是另一回事。对我来说这是一次有趣的经历。

Ecoffet我希望这对最终产品非常有帮助——在这么早期和深度地让研究员参与进来，特别是因为它如此具有前瞻性。用 Sam 的话来说，你需要那些每天都在接触这项技术、知道如何构建它、知道安全堆栈如何运作、同时也看到进步速度的人。我记得在过去几个月我们工作期间的一件事，很多研究员经历了一个转变。

Altman经历了一个转变——从自己写大部分代码到让 AI 写大部分代码。我认为这在某种程度上让他们带来了很多紧迫感：这项技术是真实的、重要的、以一种也许不是每个人都能看到的速度在移动。这也是你之前问"为什么是现在"的一部分原因——因为我们正在看到这种紧迫感。我能讲一个让我想起的小故事吗？

Altman2020 年，大概是 1 月下旬或 2 月初的一个夜晚，那时候 OpenAI 的研究员们在全世界还没关注之前就对新冠着了迷。我们一直在讨论它，每天看数字，我们在想，这要来了。我们在制定居家办公的计划，然后有一篇文章出来嘲笑我们——因为 OpenAI 这帮疯子，我们在一些门把手上贴了铜什么的，因为……有个记者写了这件事。我们做了计划，我们预判封城会来。我们就像：有一个东西要来了，世界没在关注。不知道为什么，在指数增长上工作的人似乎更能理解这些东西，所以我觉得我们这群人对此有了直觉。

Altman然后有一个夜晚，很冷的夜晚。我当时住在 Mission 区，我想，我快要被锁在家里一段时间了，我要出去走一走。我再走一次，因为谁知道会发生什么。我在城里走了很长的路，好几个小时，在一个寒冷的夜晚，我透过窗户看着人们在餐厅和酒吧里把气息呼在彼此脸上。我戴着我的口罩，看起来像个疯子。外面还有另一个戴口罩的人，我们对彼此点了一下头。除此之外，生活感觉完全正常。

Altman我很久没有像此刻这样强烈地感受到这一点了。就像——有一个疯狂的变化。变化已经发生了，模型已经达到了某个水平，但社会还没有消化它们。我们觉得自己看得很清楚。我们在试图告诉世界它会发生，但要让人听进去很难。感觉就像又回到了新冠最初期、走过那些街道的时刻。

Nicholson这真的很有趣。你谈了不少要释放的正面价值，也多次提到科学。那如果我们要把这和新冠对比的话，管线里有哪些巨大的正面东西在等着我们？

Altman我来回答这个。我认为正面的东西是如此之正面。我们应该更多地谈论我们在这里思考的所有事情。你提到了科学。如果我们真的能用一年的时间取得十年的科学进步，如果我们能治愈大量疾病，如果我们能为人们提供个性化医疗，找到新材料来制造便宜、安全的能源。如果我们能做到任何一个人想出了一个创业点子，就能让 AI 去实现它、写出他们想要的软件、有一个最适合他们玩的定制视频游戏，这些东西都太棒了。

Altman现在，我们之所以带着紧迫感发布这些，部分原因是有很多东西正在到来，我们需要去减轻它们的影响。我默认我们会搞定。我天性总是乐观的，但同时，这项技术的好处如此深刻地改变了我们面前的选项和我们能做的事情。我读完研究员们写的这份蓝图后的第一反应是：它太棒了，但也有点疯狂——我们居然可以在可信的基础上谈论这些事情。如果 AI 如我们所想的那样强大、所有这些美好的事情发生了，我们也就拥有了一个不可思议的新工具来帮助我们缓解潜在的负面影响。这是一个属于所有人的工具。

NicholsonJosh，我想我们之前把这讨论为一种改变人们工作、学习和参与社会方式的社会基础设施。我们有什么责任，各类机构又有什么责任，来帮助社会为此做好准备？你是怎么想的？

Achiam我在这里思考的一件事，确实回到了让所有人普遍受益这个核心。在社会中很长一段时间以来，我们一直有这样一个伟大的愿望：每个人都可以拥有食物、住所、电力、医疗保健，我们一直希望看到在为每个人提供这些方面迈出新的一步，这样每个人都可以专注于自己生活中最重要的事情。

Achiam我们一次又一次被告知：其实我们做不到，太贵了，没办法支付。我认为，AI 和超级智能将释放的是以远低于历史上任何时候的成本来实现这一切的自由。相应地，对于我们这些技术的守护者来说，我们有特殊的责任确保我们真正完全实现这些好处，并参与制定政策和体系，帮助劳动人民、中产阶级、低收入国家的人民，确保它惠及所有人，而不只是最富有的人。这些是我认为的关键责任，我对此非常兴奋。而且负面风险也相当严重，可能会发生系统性冲击。我们必须准备。我们必须深思熟虑。我们必须对此诚实。

Nicholson是的。听起来像是一个韧性问题。当我读这份文件并和你们交流时，感觉你们是分层思考韧性的，对吧？而且很多不是在 AI 上线之前，而是在 AI 上线之后——关于我们对 AI 的回应方式以及人们如何为此做好准备。我想问问你们每个人怎么思考韧性。Adrien，从你开始？

Ecoffet是的。我想说一个也许和传统思路不同的区分。传统上，我们一直在思考安全，确保我们运行安全评估、对模型进行红队测试、实施缓解措施，我认为按照你说的韧性分层来看，这是一个非常重要的层，我们应该继续做并且持续扩展。但同时，你希望社会为这样一种可能性做好准备：也许有一些行为者会做更少的安全测试，那时候怎么办？社会如何对来自这些 AI 的风险保持韧性？也许即使我们做了安全测试，仍然会出现事故或险些出事。

Ecoffet在蓝图中，我们谈到了例如事件通报制度，有点模仿航空业的做法——每当有险情或任何事故，无论多么轻微，都会被报告到一个数据库中，这样所有公司都可以知道：好的，这是一个风险，也许这里有一些你可以实施的缓解措施。所以，在全社会层面可以做很多事情。另一件事是防御风险。我们谈到的模型现在代码能力好得多了。这也意味着网络攻击能力——它们能否帮助坏人发起网络攻击？我认为韧性的一部分是确保我们的软件系统更加安全，并使用 AI 来做这些事情。所以就像你说的，有所有这些层次。这就是我对韧性问题的理解。

NicholsonSam，在节目前我们讨论了当每个人都能接触到 AI 时繁荣可以是涌现的。我还想到韧性也可以是涌现的。你怎么看？

Altman是的，我认为我们最初的 AI 安全思维，以及整个领域的安全思维——我称之为经典 AI 安全思维——是：世界上将只会有极少数几个 AI。唯一重要的事情是确保这些 AI 做正确的事。只要你对齐了它们、它们不做不安全的事，世界就没问题。我认为现在的画面其实更稳定，但更复杂。世界上将会有很多 AI。光说"某一家公司会确保 AI 永远不做不该做的事"是不够的。社会需要一个涌现式的回应。

AltmanAdrien 刚才谈了一些这方面的内容，如果我们只看几个我们预期即将到来的威胁的例子：网络安全肯定会成为一个巨大的问题。AI 将极其擅长发现软件中的漏洞。我认为世界将发现它们的软件比我们以为的要脆弱得多、安全得少得多。人类发现漏洞的能力是有限的。光说一两个或三个模型提供商确保他们的系统不做这些事情是不够的，因为代码就是——你知道——擅长写代码这件事本身也能帮助发现安全问题。即使我们所有人不知怎么能防止我们的模型被用于此，开源模型很快就会出现。

Altman很快就会出现擅长代码、因此也擅长安全漏洞利用的开源模型。所以必须发生的是，世界必须使用这些模型，而且可以有差异化的访问权限——你可以先把它给已知的、可信赖的防御者。我们有这样一个计划；其他公司也会做类似的事。你必须赋能那些防御软件的公司，因为会有某个电厂，20 年来没人理解它的软件，没人能打补丁，而这存在一个大问题。你得对此采取行动。但韧性思路就是：世界上出现了这个新事物——AI 非常擅长利用计算机系统——那就用 AI 来防御它。这不是一家公司的事，需要一个巨大的努力。

Altman如果再往前看一步，我认为会有一个生物版本。经典的说法是：我们只需限制我们的模型开发病原体的能力就行了。但某个人在某个时刻会用某个模型来开发一种病原体。世界需要针对此的防御盾牌：检测系统、快速响应治疗方案，以及其他一堆东西。这不会让我们免除对齐系统和构建安全系统的责任——我们仍然必须做那些事情。只要我们待在前沿，我们在时间上就有优势。但我们确实需要世界做它的事情——社会发挥这种涌现式的魔力，构建这些层层叠叠的防御盾牌。除了这两个之外还有很多威胁，但考虑到时间有限，先说这么多。

Nicholson当然。Josh，你和我分享过一些有趣的想法——每一次巨大的技术变革都催生了新的制度和新的民主机制。而且你一直在思考现在可能出现的新制度。你最激动人心的想法是什么？你最想在超级智能的集体回应方面思考什么？

Achiam当然。首先在韧性话题上打一个底：我们担心 AI 制造新外部性的很多问题，实际上是无论 AI 存不存在都已经存在的问题和脆弱性，AI 只是增加了行动的紧迫性。回到新冠的话题，我们那时发现每个人对供应链运转的依赖远比大多数人此前意识到的要深。供应链极其重要——食品的供应链、商品的供应链、维持文明运转的一切的供应链。而当然，还有其他类型的脆弱性，比如民主。我们已经辩论了多年，当有人以不恰当的方式影响社会时，存在真实的风险。我们担心 AI 会让这些东西在短期内更容易被攻击，因为人们手中将有以前没有的工具。

Achiam我对一种可能性感到兴奋：我们可以建立新的制度和国家能力，利用 AI 来修复这些脆弱性。我们可以用以前做不到的方式，用 AI 系统性地识别它们；我们可以用以前做不到的方式系统性地修补它们。我们可以用 AI 来扩大应对某些类型问题的努力，让攻击者的成本高到不值得去做。

Achiam在网络和生物领域，我是乐观的——也许我们可以建立一个防御者生态系统，共同让攻击者发动网络攻击的成本高到根本没有什么动机。如果我们能完全实施生物韧性方面的措施——不仅针对可能影响人类的病原体，尤其是食品供应链方面——这是我的一个执念，我每次有机会就要讲。我认为人们对食品供应链的生物风险关注得太少了。但我们可以用 AI 来大规模地让食品供应链具有韧性，而这种规模的防护在今天的成本下是不可能的。所以我对我们能在那里建设的东西非常兴奋。

Nicholson再问一个。当我们谈论个人层面的转变——许多人的工作会变成什么样、价值会转移到哪里——我知道你一直在思考这个。你看到了什么，随着人们转向在 AI 经济中创造价值的其他方式？

Achiam天哪，这个问题太宽泛了。我想人们将有更多机会去施展自主性。如果你能创办一个新企业，有一支 AI 团队来处理你自己完全没有专业知识的所有建设企业的职能，你可以更容易地让一些东西落地。因此，当你给人们提供访问权和工具、帮助他们做到以前做不到的事情时，经济从根本上改变了。

Nicholson当然。Sam，类似的问题。你在创业领域有这么多经验——自己经营、管理 Y Combinator、或者只是在这个生态系统中待了这么久。你怎么看创业的变化？

Altman你怎么看创业的变化以及我们用 AI 实现新想法的潜力变化？我对探索这个空间着了迷。我不确切知道它会是什么样子，但这个想法——一个人、一个很小的团队就能创建一整家创业公司，正如 Josh 所说的那样快速——我所有的直觉都告诉我，这里面有一些深层的、重要的东西需要被发掘。在我们这个行业，每一次创办一家创业公司的摩擦、成本——不管你怎么称呼它——大幅下降的时候，都会有令人惊叹的新事物出现。

Altman我记得我经历的其中一个这样的转变，是当 AWS 基本上出现的时候，突然之间有了"云"的概念，一个小型创业公司不再需要去做以前必须做的那些疯狂的事情——管理壁橱里的机架。那对小型创业公司几个人能做到什么来说是一个惊人的变化。正在到来的这一次要大得多——中间也有过好几次——但我真的想看看，当一个创业公司是两三个人加上大量的 GPU、你真的能民主化谁可以创业的时候，会是什么样子。

Nicholson是的。民主化的这个面向，归根结底就是 AI 的广泛可用性。思考让更多人参与进来、民主化 AI 获取权的最好框架是什么？

Altman我认为人们谈到 AI 民主化的时候，其实指的是两种不同的东西。一种是共享获取——确保每个人都能使用足够的 AI 来改善自己的生活、为他人建造东西，等等。另一种是一种对方向的话语权。我认为两者都非常重要。我们做像这份蓝图这样的事情，部分原因就是如果我们不辩论社会的议题的话……这也是我们当初发布产品的部分原因。人们对此没有感觉。如果人们不在讨论这些，那就算是让人们有发言权的前提条件都不具备。但光有讨论还不够。你还必须有一种方式，让人们的意见——我们倾听到并把它反馈回系统中。所以我认为那非常重要。

Altman另一方面，我们需要把不只是像 ChatGPT 这样的服务，而是真正有实质的、高算力的有价值服务——人们可以用来创办创业公司、做出科学发现或者其他什么——广泛地放到很多人手中。

Nicholson是的。这需要新的经济模式或者便宜得多的推理才能更广泛地铺开。

Altman没错。这是一个基础设施问题，以及其他许多问题。你知道，我们在 OpenAI 多年来一直在讨论什么时候能度过算力紧缩期，什么时候能建造足够的算力让我们不再那么紧张。我不认为我们会走出来。如果我们做好了自己的工作——如果我们持续降低智能的成本、提升智能的能力——我认为实际上如果那发生了，需求是无上限的。在我们不建造足够基础设施的世界里，你会得到一种疯狂的权力集中和算力集中，因为人们会不断把价格竞标上去。所以我真正相信的长期民主化策略，就是建造如此多的基础设施、让模型变得如此优秀和如此强大，以至于我们希望到达一个人们会说"我需要有人帮我想想怎么用掉所有这些算力"的世界。我不认为实际上会到那个程度。但我确实认为，如果算力非常有限，世界上最富有的人和最富有的公司就会把价格竞标到极端的程度。那将是另一种被垄断的稀缺性。

Altman我会看看历史上的许多例子。我们做过的对真正提升人们生活质量最好的事情之一，就是把电的价格大幅打下来。能源价格可能打下来了很多。能源和生活质量的相关性极高，至少长期以来如此。也许现在会更多地取决于 AI。通过让能源变得充裕、相对于 50 年、100 年、200 年前的成本来说便宜到令人吃惊，这为提升整个世界做了相当多的事情。

Altman我认为我们要对 AI 做同样的事。我认为这意味着你需要大量的 AI。就像能源一样，你需要创新新的方法来让它更加负担得起。

Ecoffet我能就这整个问题也说一点吗？我觉得我们谈了不少关于 AI 的广泛获取，我认为这非常重要，可以创造很多新产品——

Ecoffet这些产品对世界非常有帮助、对人们非常有用。我觉得我们在写这份蓝图的时候也尝试思考的一件事，是确保普通人——也许不会去创业的那些人——不被这项技术甩在身后。我觉得这和一件我们也许会谈到的事有关，就是 AI 如何改变经济的构成？是让它更偏向资本还是更偏向劳动——由 AI 完成的劳动，真的？我们在蓝图中讨论的一件事是，如何为这样一种经济现代化税收体系，以及如何分配这项技术将创造的繁荣？你如何确保这是所有人的繁荣，而不是相对少数人的财富？这是我们在蓝图中试图解决的问题。但我很好奇我们能不能在这里也讨论一下。

Nicholson完全应该讨论。我在蓝图里看到的几个大想法，一个是工人参与共同决定 AI 如何在他们的工作场所部署。Josh，我想问你这个。我还想问你们所有人，更广泛地说，社会如何捕获上行利益。这会采取什么制度形式？先从你开始，Josh。

Achiam好的。在算力问题上，我先说一秒钟：算力分配问题——搞清楚我们用算力帮助人们用 AI 做什么——可能是未来几年在算力相对稀缺的时期最重要的社会性问题之一。我们应该尽快尽力地增加世界上的算力总量，这样我们就不必面对那些痛苦的取舍问题——比如有某种了不起的好处我们可以给每个人，但我们却卡在一个艰难的问题上：有人说，那你打算怎么付这个钱？因为算力成本太高了。

Achiam关于让工人参与 AI，我其实想退后一步，承认一个房间里的大象——很多工人担心 AI；他们担心 AI 对他们意味着什么。他们并不会立刻兴奋地想搞清楚"好了，我们怎么在工作中使用 AI"。他们想的是：天哪，AI 会不会取代我？我认为重要的第一步是，我们这些在 AI 领域工作的、某种程度上是技术守护者的人，必须拿出像这份蓝图文件这样的东西，说：这是我们将如何倡导政策来确保经济是公平的，无论发生什么你都会得到支持。在我们做出了这个层面的安全网之后，我们才能谈论一些你对我们有信心的事情。

Achiam我们可以一起有一个好的对话。我们应该搞清楚如何赋能工会做出明智的选择——在哪里以及如何使用 AI？如何赋能工人参与关于工作场所 AI 可接受使用的对话？我认为很多人正当地担心工作场所的监控，确保工人参与这类决策感觉非常重要。还有，在 AI 素养方面的大力推动，确保人们得到他们需要的工具来用 AI 改善自己的生活、开办小企业、做各种能帮助他们实现潜力的事情。

Nicholson好。你考虑过哪些让每个人都能捕获一部分上行利益的制度？Josh？

Achiam嗯，让我想想。关于新型制度，我认为以更精细的颗粒度衡量经济各部分的能力——从而能够对经济变化做出响应——是一件事。我认为 AI 实际上是一个非常令人兴奋的工具，可以让这种衡量比过去更具可扩展性和更低成本。我还认为可以有更多处于企业和政府之间的制度——这两种体制在治理方面的问责水平非常不同。也许需要某种具有更中间层面问责水平的东西，能够提供类似社会安全网类型的服务——介于公司董事会和监管机构之间的某种东西。

Achiam是的。这不能全靠治理极度简略的私营公司来做。我们也不指望行动相当缓慢的政府能很快把所有事情都搞定。所以我们也许需要一些中间制度来帮助我们原型化各种方案。这有点头脑风暴的意思，我不认为这完全被涵盖在蓝图中，但你问了，所以——我认为这是一种我们可以尝试的创新型新制度。

Nicholson好。Sam，在制度层面，你怎么设想人们可以广泛参与上行利益？我想我们之前讨论过——

Altman我们之前讨论了非常广泛的获取和给很多人大量算力。你听到过这些想法，比如通用基础算力（universal basic compute）或者其他名字好听的概念，但它们真正的意思就是：不再是传统的思维——当 AI 做了所有工作后我们给人们每月发一笔钱。我认为更好的做法是：实际上人们很懂得自己需要什么，也很有创造力去利用东西。但如果人们被挡在获取这种资源之外，那将是一个挑战。

Altman我确实怀疑我们将不得不改变征税方式。在一个 AI 做了世界上大部分智力工作的世界里——或者至少是当今工作的大部分——我们可能需要探索某种对此征税的方式，而不是传统意义上对人类收入征税。我怀疑我们将需要提供新型的过渡援助、失业保障之类的东西。我怀疑最终我们将需要思考人们如何以新的方式成为所有这些上行利益的所有者。资本主义依赖于劳动和资本之间的某种平衡，如果那完全失衡，当前的系统就行不通了。必须有某种进化。那是什么，我认为是一个非常开放的问题。再次强调，这里的部分目标就是抛出一些想法，但还有更多。我总是留一些余地说也许我们错了，也许完全不需要任何改变，也许这一切的运作方式和我们想的不同。但，再次，本着利用我们拥有的时间来思考和辩论的精神，现在似乎是开始分享想法的好时机。

Ecoffet我能就这个"也许我们错了"的方面说点什么吗？我觉得蓝图中有一个重要的点，我们有关于现代化税收体系的提案，也谈到了也许甚至是 32 小时工作周之类的东西。我认为这里有一个重要的点，就是尝试创建反周期措施——条件是如果 AI 造成了颠覆，我们就有额外的失业保险，有像 32 小时工作周这样的措施。对我来说相当重要的是：这些措施中有一些也许在当前世界就挺好的，但我认为其中很多在当前世界会造成相当大的混乱，我们真正讨论的是一个变化很大的世界。对我来说，在制度层面，我们需要的是某种思考：AI 可能造成哪些潜在的颠覆，以及当我们看到这些颠覆即将到来时，有哪些东西可以实施来对冲这些颠覆、在那个时候广泛分配利益。

Nicholson是的。报告中的一个想法是便携福利，因为在美国福利和雇主绑定得这么紧。

Altman没错。这是一个，我觉得，比较偏美国中心的提案，当然了。但我觉得这是一个很棒的想法。我觉得我们还没有这个简直是疯了，美国福利世界的演化方式真的很糟糕。但我觉得这是一个很棒的想法。没有人应该因为失去工作就失去医疗保障。

Ecoffet就不应该发生。

Ecoffet我同意。从研究组织内部来看，你在看到这种加速，对你来说是真实的。你可以看到这些模型正在取得的某些科学进展。我们想要制度、想要社会跟上技术的步伐。你认为适应的窗口期有多长？

Altman嗯，你知道，这个……嗯，我本来想说很难给出一个数字。我会说这些数字有很大的不确定性。我们谈到过在 2028 年、2028 年初拥有一个自动化研究员。

Nicholson我想——

Altman2028 年 3 月是官方目标？

Ecoffet什么？

Altman2028 年 3 月是官方目标。谢谢。我认为一个有用的思考方式是：一旦你有了这个自动化研究员——一个能够做 AI 研究的自动化 AI 研究员——你可能会遭遇一种双重打击的颠覆。首先，你有了一个显然能够做高级认知工作的模型——AI 研究就是高级认知工作——所以这本身就是颠覆性的。但它可能会加速进一步的 AI 进步。所以，你知道，我不能告诉你，在那之后一年具体会取得多少进步，但它可能比我们迄今为止的进步速度更快。这就是我们在谈论的那种窗口期。

Nicholson好，我们到了对话中向社区开放提问的环节。不再只是我了。这里有一个，来自 Svetlana Romanova。

Nicholson随着 AI 变得越来越强大，你认为哪些人类品质在未来最重要？我想逐一问你们。Josh。

Achiam我觉得有些人类品质是永恒的、永远都会重要的。品格、承诺、努力、同情心。我认为它们会非常重要。所有这些，创造力，理解他人的需求。但我要分享一个最近真正让我感触的轶事——一些事情确实不是按同样的方式运转了。我去了我的第一家机器人咖啡馆。我超级兴奋想试试。我以为我会喜欢。结果这是最令人失望的体验。我以为我是一个不需要星巴克咖啡师对我微笑、跟我打招呼、问我今天过得怎样的人。我真的觉得自己不在乎那些。结果我其实很想要那些。走进去在屏幕上按几下，让机器人做好、给你一杯美味的咖啡，是一种深深的不满足感——我不想要这种体验。而我以为我不会在乎。

Ecoffet我完全同意。只是那些一天中的小互动，我也真的很珍惜。

Ecoffet好的。嗯，我想说的其实和 Sam 说的有点类似。我相信蓝图里也有。人需要彼此。我觉得我们在乎其他人。事实上，某种程度上，技术和社交媒体、电子游戏等等的发展中最可怕的事情之一，就是也许那已经让我们失去了一些我们曾经拥有的连接。但我仍然认为，这对人们来说极其重要。事实上，随着 AI 变得更先进、能做那些不需要人类连接的任务，人们会越来越认识到这一点。这是我认为会扩展的一个大方向。这似乎对我来说是一件好事——这当然可以是一种工作形式。护理以及所有这些类型的工作——关怀经济、教学。但它对我们的生活也至关重要。我认为，对我来说，最大的品质将是——你对其他人有多好。

Nicholson是的，我同意。在美国，医疗、育儿和养老都非常昂贵。问题来了：AI 如何扩大普通人对这些服务的获取？Josh？

Achiam有一件事让我非常兴奋，就是 AI 能够帮助向所有人提供世界上最好的医疗服务。我听过很多人在医疗系统中导航时的故事——他们不知道该去哪里、如何搞懂保险、该找什么专科医生。你听到有人为了一个诊断辗转多年却一无所获。你听到有人困在一个医疗系统中——即使你有最有爱心、最富同情心的护士和医生，也没有足够的时间给每个人最好的服务。我认为 AI 将使大规模提供最高质量的护理成为可能。我不认为它会取代医生。我认为它会让他们的工作负担变得可控。我认为它会让患者获得最好的体验。

Ecoffet是的，我同意。患者赋权方面有很多可能性。

Altman我们都讲过很多次在社交媒体上看到的人们有了惊人的医疗体验的故事。我没有那么惊人的经历，但我讲讲我自己的，因为它确实发生在我身上。我最近做了一次验血。没什么大问题，但有几个指标刚好超出范围。你扫一眼——有大概一百个项目，你就看那些标记为超标但只超出一点的。我问了我的医生。他说，可能那些都够接近了，没事。我把它放进了 ChatGPT。它说：是的，你没事。但这是怎么回事。吃这一种补充剂。一个月后再做一次验血。你应该没问题。然后就好了。当然，我不是真的病了。但是，我能直接上传我的验血报告、就一个相当复杂的问题立刻得到正确答案，这是一个令人惊叹的体验。我认为在医疗、教育和其他领域会有很多这样的事情。养老护理——那是我觉得我们希望由人来做的一种。但会有很多方式可以真正降低医疗和教育等等的成本。

Ecoffet当然。甚至个性化学习。仍然可以是人，但你可以搞清楚如何教育不同的个体，对吧？

Ecoffet我觉得另一个基本的点——在医疗方面，至少我希望是这样——就是 AI 将能够帮助医学研究，这是一个能让所有人的医疗变得更好的基本事情。但我刚刚也谈到了关怀经济。我觉得某种程度上，如果 AI 能简化医疗中更多的官僚层面——坦率地说——并帮助更多人去真正为个体提供实际的医疗服务，这似乎是一件积极的事情。不是 AI 在提供，而是它在释放人来做这些工作。

Nicholson是的。我们今年谈了很多能力过剩（capability overhang）的话题——AI 现在已经有了如此多的能力，但大多数人并没有真正去利用。我有时候怀疑这是因为他们已经对现有的世界认命了，对吧？我觉得有人称之为"翻转盲视"（flip blindness）。他们已经停止去想"某种更好的东西是可能的"。所以我觉得他们会开始更多地投入，对吧？当他们投入的时候，他们的行为改变社会的程度会和任何技术突破一样大——那个采纳的时刻。在你们的生活中，哪些时刻你们看到某人突然醒悟，意识到"哦，我可以这样做？我不必再安于旧的方式了"？

Nicholson等等，我已经问了很多问题了。Adrien，你想先试试吗？你现在有时间想了。

Ecoffet天哪。哇。好吧。确实是被点名了。是的，也许我确实想想这个。按你说的，我觉得人们确实需要一段时间来适应新技术。我觉得某种程度上，能力过剩可能是巨大的——在能力和人们实际使用之间。我觉得这在一定程度上是能力提升的速度与人们习惯事情变好的速度之间的函数。

Altman我有一个最爱要分享。这里有很多选择，但我最爱的是——看着那些本身是程序员的家长，看他们看着自己的孩子第一次使用 Codex。一个有很多想法、完全不知道传统限制是什么、什么是难的什么是容易的孩子，就开始描述那个视频游戏，让 Codex 做出来。然后那个孩子经历的创造之旅。你经常看到孩子大部分时候是用语音在操作。而家长就在旁边想：这不行的吧——然后它行了——然后他们想：哇，我的孩子将要在一个他/她理所当然觉得这种事会发生的世界里长大。而我某种程度上还是不会想到去试这个，因为我一直确信这不管用。所以通过家长的眼睛看孩子第一次做这件事——特别是如果那个家长是受过训练的软件工程师——太棒了。

Nicholson这是一个古老的故事，对吧？80 年代的时候总是孩子知道怎么用录像机，类似的。有趣。

Achiam就说一下关于能力过剩和人们多快注意到某个能力已经到来。有一个有趣的时间尺度错配：不太了解 AI 的人对某种事情正在发生有一种遥远的意识。他们知道有一个产品在那里。每隔几个月他们可能看一看。他们不会立刻本能地去探索它能力的极限。他们经常不会把它调到"思考"设置。他们不知道推理模型已经出现了。他们停留在默认的聊天模型上。

Achiam所以他们最终会产生一种误解，觉得事情没有实际移动得那么快。你听到人们说：嗯，有幻觉，是 slop，在犯错，不准确。他们凭什么告诉我们它能做这些伟大的事情？这种发自内心的信念差距，我认为会在他们开始看到其他人和机构非常成功地使用 AI——用最高推理设置、最强能力设置——以令他们震惊的方式使用时被克服。就像那个视频游戏的例子，但在全社会层面。他们会看到很多人获得他们没想到能快速获得的诊断。这会更新他们的认知。我觉得这是一个有趣的现象——AI 进步的时间尺度是周和月，而人们目前回来看一看的时间尺度大概是每半年。当人们意识到今天的能力的极限时，会有一些大的改变发生。

Altman是的。我同意。

Nicholson我觉得你提到的 Sam 关于孩子的那个点，真的向我说明了创造力强的人有多大的优势。有些人就是一个想法的喷泉。他们的很多想法从未实现过。有些是科学家，有些是艺术家，很多是孩子。感觉闸门正在为他们打开，让他们实现更多的东西。我觉得你提过你实际上已经会把 Codex 的清单全跑完，不再需要让它整夜运行了。

Altman我们只需要做一个帮你想出新点子的模型。我实际上觉得这会是最令人兴奋的事情之一。我不认为我们离这样一个模型很远了：你可以说，去翻看我所有的短信、所有的邮件、看我整个电脑、你能找到的关于我的一切，然后只需建议那些我曾经以碎片形式暗示过的、或者可能对我有趣的想法。然后我来建造那些。

Nicholson是的。一个思想伙伴。我看到很多人这样使用它。

Nicholson好的，我想我们要收尾了。感谢大家今天的参与。感谢 Sam、Josh、Adrien。这真的很棒。很有意思。

Ecoffet谢谢。

Achiam是的。

Nicholson今天讨论的想法对你来说也许听起来很宏大，它们就是要这样的。但我们也知道它们是早期的、探索性的。我们提供这些不是作为最终方案，而是作为一场非常公开的对话的起点——与政策制定者、社会中的每一个人——鼓励更多的讨论、研究和辩论。OpenAI 希望这场对话继续下去。公司正在通过一个新的邮件地址征集反馈：newindustrialpolicy.com。请把你们最好的想法发给我们。我们正在启动一个研究员资助和专项研究拨款的试点项目，提供最高 $100,000 的资金和最高 100 万美元的 API 额度。我们将在 5 月于华盛顿特区新开设的 OpenAI 工作坊召集进一步的讨论。再次感谢大家参与这个论坛。我们很感谢每一个人为这场对话带来的时间和思考。我们期待继续。