8月16日消息，在最新一期OpenAI发布的播客节目中，主持人（OpenAI前工程师）安德鲁・梅恩和其公司的黄金搭档——首席科学家雅库布・帕乔基（Jakub Pachocki）和研究员西蒙・西多尔（Szymon Sidor）作为嘉宾参与。
这对搭档回顾了从波兰高中同学到在OpenAI共事的渊源，还深入探讨了人工智能发展的关键议题，包括通用人工智能（AGI）的定义与衡量标准、技术突破的标志性成果、基准测试面临的挑战，以及AI对教育、科研和社会的实际影响等。核心观点有：
●AGI的定义与衡量演进：AGI已从抽象概念细化为多维能力集合。比如IMO金牌等里程碑虽有意义，但点状突破已不足，未来应关注其在自动化科研和现实应用中的影响。
●AI技术的突破轨迹：从早期情感分析的局限，到GPT系列模型的迭代，模型已能参与IMO、ICPC、日本AtCoder等竞赛，展现出强大的推理与创造性思维能力。
●基准测试的挑战与 “饱和”：许多基准测试已出现“饱和”，模型接近或超过人类水平，但难以全面反映智能。衡量标准需转向实际效用与新见解的发现能力。
●AI对教育与人才培养的影响：AI可作为教育辅助工具，但教师的情感支持不可替代；教育需改革，培养结构化思维、批判性思维等软技能，编程是掌握这些能力的有效方式。
●未来突破方向与信任门槛：模型的持久性、长时间专注问题的能力是重要发展方向；AI需突破信任门槛，在访问个人数据时平衡价值与安全性，避免滥用。
●AI的广泛影响与发展节奏：如同互联网对经济的影响，AI的作用难以用单一节点衡量，其发展速度虽看似存在“瓶颈”，但长期来看进步显著，将深刻重塑行业与社会。
以下为此次播客节目的精华版内容：
安德鲁・梅恩：大家好，我是安德鲁・梅恩，欢迎收听OpenAI播客。今天的嘉宾是OpenAI首席科学家雅库布・帕乔基与高级研究员西蒙・西多尔。我们将围绕人工智能进展的衡量方式、通用人工智能（AGI）的定义，以及下一个可能出现的突破方向展开讨论。
我们的模型已经能够准确识别出自身在某些问题上尚未取得进展。同时，我们也开始严肃思考：作为一个组织，我们是否已准备好应对这种极为快速的发展节奏？在规划 OpenAI的研究项目时，我们的目标是创造一种具备高度通用性的智能。
我想先了解一下你们的具体职责。帕乔基，你是OpenAI的首席科学家，对吗？
帕乔基：是的，我担任首席科学家一职。
安德鲁・梅恩：首席科学家的具体工作内容是什么？
帕乔基：我的主要职责是为公司制定研究路线图，即确定我们将押注的技术路径，以及我们将长期推进的底层研究方向。
安德鲁・梅恩：西多尔，你的工作内容是什么呢？
西多尔：我的工作比较繁杂。主要从事独立贡献者（Individual Contributor，指在组织中通过个人专业能力直接完成工作任务、创造价值，而不承担管理他人职责的角色）的工作，偶尔也承担一些领导职责。总体而言，就是做最有价值的事。
安德鲁・梅恩：你们两人在加入OpenAI之前就认识，是吗？
帕乔基：是的，我们曾就读于同一所高中。
西多尔：没错，是同一所高中。
安德鲁・梅恩：你们在高中时就是朋友吗？
西多尔：我认为我们是在离开高中后才成为挚友的。来到美国的经历，某种程度上是一段建立深厚情谊的情感历程。在高中时，我们更像是学业上的同伴。
安德鲁・梅恩：什么样的高中能培养出你们这样的人才？
帕乔基：我们的高中位于波兰。当时，我们都是被一位名叫里沙德・苏博洛夫斯基（Ryszard Sobolewski）的计算机科学老师吸引到那所学校。在我们入学前，他就已经在培养计算机科学家和程序员方面有着出色的成绩，尤其注重编程竞赛，致力于让学生在这一领域追求卓越。
西多尔：那段经历对我们的成长影响深远，他是一位非常优秀的导师。他在编程教学上的深度远超普通高中课程，涉及图论、矩阵等内容。我希望如今有了ChatGPT，人们能更容易进行这种深入学习，因为若没有合适的导师和大量的努力，很难重现那样的学习体验。
1 AGI的演进与衡量标准
安德鲁・梅恩：像ChatGPT 这样能即时生成互动多媒体、解决教学问题的能力，到底该怎么定义和衡量？如果我们谈AGI，你们会从技术角度和通俗角度如何解释它？
帕乔基：以你刚提到的教学场景为例，ChatGPT确实能发挥重要作用——它可以更清晰地解释概念，提供多样化的教学方式，并且能很好地配合像苏博洛夫斯基这样的教育者使用。但需要强调的是，人工智能并不能取代教师，因为教师不仅传授知识，还提供情感支持和学习氛围，这是AI目前难以独立完成的。
安德鲁・梅恩：这一点很重要。人们常说人工智能会取代教育，但这一观点往往忽略了这一点。我曾遇到过一些老师，他们的知识或许并不总是准确，但他们的用心和关怀是真挚的，并且愿意耐心解答问题。所以，这些工具其实是教育的辅助，教师使用这些工具能变得更高效。回到AGI的话题，我想先听听非技术性的描述，比如你会如何向申报的兄弟姐妹解释它？
帕乔基：几年前谈论AGI时，尽管深度学习技术潜力巨大，但AGI的概念仍较为抽象，显得遥不可及。当时，人类水平的智能、自然对话能力、解决数学问题的能力以及开展研究的能力，似乎都属于同一范畴。但随着技术的发展，我们发现这些其实是截然不同的能力。
目前，人工智能已能在广泛的话题上进行自然对话，也能解决数学问题，比如在国际数学奥林匹克竞赛（IMO）中获得金牌，这是我们长期以来认定的AGI 发展里程碑之一，且这一目标已经实现。解决数学奥林匹克竞赛的所有问题难度更高，这是另一个里程碑。
不过，我越发觉得这种点状的衡量方式已不够充分，因此我们开始关注人工智能对世界的实际影响。就我个人而言，在思考人工智能如何真正对世界产生有意义的影响时，首先想到的是它在自动化新技术的发现过程与生产方面所具备的潜力。
我们通常将新想法和基础性技术进步归功于人类的创造力，并通过重大发明和技术革命来衡量进步。但很难想象，这一过程的大部分是可以自动化的。一台大型计算机有可能提出从根本上改变我们对世界认知的想法。我认为这一天并不遥远。因此，思考我们与这一目标的差距以及这种技术可能带来的影响，是我首要考虑的问题。
2 OpenAI的使命：通用智能优先
安德鲁・梅恩：我刚订购了一台Mac Studio，想运行开源模型GPT4All(由Nomic AI开发的开源项目，旨在让用户能够在个人设备上本地运行大语言模型，无需依赖云服务)，让它24小时不间断地生成内容、处理任务，这个想法很吸引我。但你提到的是大规模自动化科学研究的问题。我们最早可能会看到哪些发现或成果呢？
帕乔基：在规划OpenAI的研究项目进程中，我们将创造具有高度通用性的智能视作核心使命。我们优先致力于打造能够实现自动化研究的人工智能系统，这并非是要将技术狭隘地限定在特定领域的应用上。虽说聚焦特定领域能够相对快速地在局部取得成果，然而，纵观科技发展历程，真正具有变革性的重大发现以及那些对人类进步意义最为深远的技术突破，通常都源自具备强大通用性的智能体系。
人工智能技术在不同领域的应用表现出了明显的差异。像那些需要深度推理、紧密结合专业领域知识，同时还需依赖直觉判断的领域，对当前的人工智能系统而言，展现出了更高的适配度。
以医学领域为例，我们已经见证了诸多令人振奋的成果。人工智能在医学影像分析、疾病诊断辅助、药物研发等方面都发挥着越来越关键的作用，能够帮助医生更为精准地识别病症、制定个性化治疗方案，大幅提升了医疗服务的质量与效率，这让我们对人工智能在医学领域的未来充满了期待。
作为专注于人工智能研究的专业公司，我们会思索如何将自身的研究工作实现自动化。设想一下，如果人工智能能够达到自主开展人工智能研究的水平，这将极大地加快研究进程，带来难以估量的价值，无疑是人工智能发展历程中的一个重大飞跃。
同样，深入探究如何借助人工智能技术推动人工智能对齐和安全研究的自动化，也是极具现实意义的。通过自动化手段，我们能够更为高效地检测和防范人工智能可能带来的风险，确保人工智能系统与人类价值观保持一致，朝着安全、可靠的方向发展，为其大规模应用奠定坚实的基础。
安德鲁・梅恩：IMO的成果显然令人印象深刻。我想补充的是，几年前我们谈论帕乔基参与的IMO时，还在努力探索AGI的定义。我们曾考虑过一个标准，即能否解决数学奥林匹克的所有问题。之所以认为这个标准合适，是因为如果一个模型具备如此出色的数学推理能力，它应该能颠覆许多可数学建模的领域。
这个播客节目提供了一个很好的机会，让我们能分享一些内部视角。我对人工智能的发展速度感到震惊。有时我们会看到一些报道称，人工智能对经济的影响仅为3%或5%，并随之出现人工智能发展放缓、过度炒作等评论。看到这些报道时，我会想起大约十年前，我用深度学习进行自然语言处理的经历，当时技术效果很差。我记得帕乔基曾来测试我们开发的一个句子情感识别技术，“这部电影很烂” 被正确分类为负面；“这部电影很好” 被正确分类为正面；但 “这部电影不烂” 却被模型归为负面。
西多尔：那是十年前的事了。从那以后，我们逐渐解决了这类任务，比如判断一个词是名词还是动词，也就是所谓的“情感神经元”（Sentiment Neuron）现象。
随后，GPT-1、GPT-2问世，它们能生成有意义的文本段落，这在当时是一项重大突破，尽管现在看来很简单。接着是GPT-3、GPT-4。对我而言，GPT-4出现时，我有了个人意义上的“AGI时刻”，因为它有时会说出令人惊讶的话，让我不禁思考这个模型是否真的能带来惊喜。那时，ChatGPT对我来说，感觉只是比谷歌稍好一点的工具，算不上特别重要。但突然间，在深入研究中，它能准确回答问题，很少编造内容，这就变得非常有用了。
如今，我们的模型已能参加编程竞赛，这对我个人乃至整个团队来说，都是来之不易的成就。从从事这项技术研究的人的角度来看，其发展速度令人惊叹。所以，看到3%这个数字时，不妨想想十年前，这个比例可能仅为0.00001%左右。这些数字需要结合具体背景来看，没有理由不相信一年后这个比例会达到10%，两年后达到20%，依此类推。
3 基准测试的挑战与未来方向
安德鲁・梅恩：我曾听说，如果我们查看20世纪90年代初以来的全球经济图表，很难找到互联网影响经济的明确拐点。没有一个瞬间能让人说：“这是蒂姆・伯纳斯・李宣布互联网诞生的时刻。” 我认为人工智能也是类似的，难以衡量，因为很难追踪到底是谁在用、如何使用。
你提到的长期观察让我深有同感。我记得自己曾在电脑上训练过一个简单的下一个字符预测器，效果很差，部分原因是当时的计算能力有限。但即便如此，后来在情感分析和BERT模型中，情况已经有所改善。当GPT-2问世时，我甚至逐一阅读了它在GitHub上的输出，因为我意识到一件大事正在发生。
这也是我最终加入OpenAI的原因。接触到GPT-3后，我更加确定这是正确的方向。但现在情况有些奇怪，如果六周内没有新的突破，人们就会觉得“进展停滞”。问题在于，基准测试本身只能反映有限的进步，而且有些测试的答案甚至不准确，即便答对了也拿不到满分。我们内部还讨论过“饱和”（Saturation，指模型在基准测试中已达到或接近人类水平，即便进一步优化也难以显著超越现有成绩）这个概念——指的是模型在标准化测试中已达到或接近人类水平，即便进一步优化也难以显著超越。你怎么看？
帕乔基：目前，我们在基准测试方面确实面临一些问题。其中一个明显的问题是饱和，即模型在许多标准化的智能或能力测试中，已达到人类水平。例如，在难度极高的高中竞赛中，模型能与全球顶尖选手同台竞技，这使得严格的量化测量变得相当困难。
以前，在GPT-1到GPT-4的发展范式中，基准测试实际上只是在衡量整体水平的提升。如今，该领域已发展出许多更高效的数据训练方法，能够针对特定能力进行训练，能训练出在某方面（如数学）能力远超其他方面（如写作）的模型。这类模型在数学基准测试中表现更好，但这不能代表它们在其他领域的整体智能水平。综合这两个问题，我们确实需要关注这些模型的实际效用，尤其是它们发现新见解的能力。
安德鲁・梅恩：没错。一个模型可能擅长应付考试，却不一定实用。理想情况下，模型在测试中应有好表现，但高分并不等同于实际价值。当人们评价一个模型时，往往希望它在上百种不同应用场景中都表现优秀，这是很难的。有些模型擅长创意写作，却不擅长数学，反之亦然。这正是我们面临的挑战。我们之前讨论过国际数学奥林匹克（IMO）等数学竞赛：为什么这些基准重要？让模型参与人类竞赛又有何意义？
帕乔基：IMO、信息学奥林匹克等竞赛是很有趣的测试案例。它们限制条件明确，不需要庞大的知识储备，但能真正考察一个人在数小时内深入思考和推理的能力。题目难度极高，很多人会为此付出努力并参与竞争，这使得这些竞赛成为人工智能发展道路上的重要里程碑。
安德鲁・梅恩：在IMO中获得金牌水平的模型没有使用计算器、其他工具或框架，完全依靠推理完成任务。
帕乔基：是的，两年前，这样的模型甚至无法正确计算两个四位数的乘积。而现在，它们在奥赛题中展现出的，是创造性的思维而非死板的公式套用。
安德鲁・梅恩：但挑战在于，一旦超出数学领域，事情就会变得更复杂。你可以设计出比如 “人类最后的考试” （Human"s Last Exam，假设性说法）这样的测试，虽然很巧妙，但会发现某些模型在学会使用特定工具后，可能更擅长解决这些问题。我想知道我们需要什么样的基准测试？你会通过哪些方面来客观衡量一种能力？
西多尔：我记得有件小事。当我因IMO的进展而兴奋时，我的同事安娜・马坎杜问：“那是什么？” 这让我意识到我们可能有些“圈子化”。IMO和ICPC在我和许多同事的人生中很重要，但对其他人来说，他们可能更关心语言或历史。例如，拉娜能说五种语言，她可能更看重语言类基准。这提醒我们，衡量标准因人而异。
安德鲁・梅恩：ChatGPT虽不是完美的衡量标准，但至少能让我们保持客观，跳出圈子。因为每个人都在使用ChatGPT，涵盖了各种应用场景。显然，用它作为衡量标准有很多缺陷，但至少能避免因个人熟悉领域不同而产生的片面性，覆盖范围更广泛。
西多尔：没错。ChatGPT的用户群体非常多样，这也让我们能从更广阔的角度观察模型的能力。你提到的“更长时间推理”也是一个有趣的评估方式。
安德鲁・梅恩：不过，仅以ChatGPT的使用情况或AI的广泛采用作为标准，也有局限。目前这种情况还未真正大规模出现，但未来很快就会发生。届时，能否利用远超普通用户的计算资源，创造出普遍有用的成果，将成为更重要的衡量标准。
帕乔基：在这些成就中，IMO的进展确实令人惊讶，比我们预期的更早实现。IMO的题目需要高度创造性思维，第六题更是突破常规的挑战。过去我们区分“金牌水平”和“解决所有题目”，因为第六题往往无解。如今，我们和谷歌的模型都能完美解决前五题，但在第六题上仍未突破。这清楚地揭示了当前的挑战。
安德鲁・梅恩：我注意到，OpenAI的模型甚至会说“我认为我无法解决这个问题”，而不是胡乱回答，对吗？
帕乔基：是的。我们的模型能够准确识别出自己在这个问题上没有取得进展。
安德鲁・梅恩：这很有意思。人们常说“幻觉”问题，但我认为需要区分：流动思维指知识广度，以及晶体思维指解决问题的能力。当模型能承认“我无法回答”时，这是一个新阶段。
帕乔基：最近几周，我们的模型在三项竞赛中都有亮眼表现：ICPC、IMO，以及日本的AtCoder编程竞赛。AtCoder面向所有人，不限年龄或身份，以其高水平和高质量著称。参赛者需要在10小时内解决复杂的优化问题，没有唯一正确答案，只有尽可能接近最佳的解法。
这对我有点个人意义。我过去更喜欢像ICPC这样短时封闭的竞赛，而我一位同事擅长这种长时赛。他曾开玩笑说，我喜欢的竞赛会比他的更早被AI自动化，因为他的更耗时。结果在这次比赛中，他是顶尖选手，而我们的模型拿下了第二名，他是第一名。看到模型和老同事正面交锋，对我来说非常特别。
比赛结束时，他已筋疲力尽。在接受采访时，他调侃说：“你们的模型太差了，我只想睡觉”。
4
AI发展的根本
安全可靠比功能更重要
安德鲁・梅恩：我们之前提到过“瓶颈”的说法。有趣的是，推理能力的出现似乎非常突然。虽然此前已有一些线索和论文，但没人能明确界定它的发展边界。随后，o1模型问世，它不仅能给出答案，还能进行内部独白，通过自我对话来解决问题。那么，这是否足以被视为AGI？还是说我们还需要新的突破？你认为未来可能会有哪些重大突破？
帕乔基：团队在这方面付出了巨大努力。表面上看，好像只是延长了“思维链”，但要真正实现却极其困难。回到你刚才提到的“令人惊讶的结果”，我记得我们第一次发现这种技术真的有效时，感到非常震撼。
当我们看到，通过训练模型、增加数据，它们能够显著提升能力时，便开始认真思考：作为一个组织，我们是否已经准备好应对这种高速发展？我还记得有一次深夜11点，我们和山姆·奥特曼通电话，讨论这些结果，有时甚至会被这些成果吓到。
安德鲁・梅恩：这种情况确实时有发生。发展速度太快了。正如我提到的，人们常开玩笑说，如果六周没有进展，就觉得“发展放缓了”。但从更长时间的尺度来看，AI的进步其实非常迅猛。
这种观点有其合理性：当你在内部参与多年研发，就会明白一篇论文背后是长期积累，而不是“一夜之间的突破”。可对外界来说，他们只看到某种“全新的方法”突然出现，让模型在现有基础设施下发挥了更强的能力。你认为下一个突破会出现在什么方向？
帕乔基：我认为不能低估“扩展”的重要性。即便是o1模型，也依赖此前的预训练和扩展范式，这些能力会产生叠加效应。与此同时，我们也在探索新方向，尤其是延长模型的规划与推理时间。从算力角度看，从GPT-4到GPT-4o，计算量大概提升了10到20倍。这虽然不算“天文数字”，但足以显著提升模型的回答质量。
如果我们将算力投入到真正对人类重要的问题上，比如医学研究或下一代模型开发，所需计算量还会大幅增加。因此，我认为增强模型的持久性、让它能长时间专注于一个复杂问题，将是下一步明确的发展方向。
安德鲁・梅恩：如果要向一位普通的ChatGPT用户解释——未来三到五年内，AGI的实际影响会是什么样？五年听起来很远，但其实并不遥远，因为五年前GPT-3才问世，仿佛就在眼前。那么，一个类AGI模型在五年内可能具备哪些能力？
帕乔基：我最近刚尝试让ChatGPT读取我的Gmail日历，这让我意识到我们已经走了很远。这让我对它的应用前景感到兴奋，而不是担心它去帮人写一些“伊沃克人小说伊沃克人（Ewoks，《星球大战》中的角色）小说”之类的东西。
我认为这里存在一个关键的“信任门槛”。让模型访问个人数据，确实能带来巨大的经济与个人价值，但问题是，我们还无法做到百分之百可靠，确保它不会被恶意利用。这是一个根本性的挑战，也是整个AI领域都必须持续解决的问题。
5 对年轻人的建议：推荐学习编程
安德鲁・梅恩：如果回到高中，面对当时的自己，你会说些什么？如果回到过去的教室，你会做什么？你会如何描述未来？会给出什么建议？
西多尔：（开玩笑地说）投资比特币。
安德鲁・梅恩：我的意思是，即便是在2025年的今天，你会对现在的高中生说些什么？
西多尔：这是一个很好的问题，因为我在网上看到很多相关的错误信息。我想说的是，你一定要学习编程，这一种非常珍贵且会持续保值的技能，是拥有结构化的思维，能够将复杂问题分解。未来，这种技能可能不一定体现为编程，但编程是掌握这种技能的有效方式。其他需要大量思考的领域也是如此。所以，不要听信那些说不应该学编程的话。
安德鲁・梅恩：我很晚才开始学习编程，这最终让我成为OpenAI的一名工程师。我想向人们解释，仅仅因为一个系统能完成某项任务，并不意味着就不需要了解它的工作原理了。
正如你所说，我在OpenAI从事提示工程时，编程知识帮助我更好地分解语言，让模型发挥更好的作用。我认为能够弥合这些差距的人确实具有优势。所以，每当听到有人说“不要学编程”，我就觉得这就像“想要一个不懂空气动力学的飞行员”一样不合理。
帕乔基：回想高中时的想法，会发现很多我们认为的限制其实并不存在。对我而言，第一个启示或许是，若真的对计算机科学充满热情，就可以在这上面多花些时间，哪怕减少在其他学科上的时间。
后来我意识到，我可以去美国学习，这并非遥不可及。在硅谷的这段时间，看到人们满怀雄心和信念去解决重大问题，相信自己能为世界带来有意义的积极改变，这非常鼓舞人心，也是我珍视这个社区的原因。
安德鲁・梅恩：有没有一本书、电影或电视节目激励过你？我认为“敢于做大事，去做能改变世界的事”这样的信息很有帮助。我觉得越多的人意识到这一点，世界就会变得越好。
帕乔基：有几本书对我有影响。其中一本现在想来很有趣，当时我并未过多联想。我15岁左右，还不确定自己想做什么，父亲给了我一本波兰语版的书，作者我当时并不认识，书名叫《黑客与画家》（Hackers and Painters）。没错，作者是保罗・格雷厄姆（Paul Graham）。这个社区的氛围很鼓舞人，这本书对我影响很大。
西多尔：如果说电影，我的答案可能有点傻，尤其是帕乔基的答案那么深刻。我看了《钢铁侠》，它激励我去攻读机器人学博士。但当我真的进入机器人学时才发现，现实中的机器人远比电影里逊色，这让我有些失望。
幸运的是，我遇到了一位对深度学习感兴趣的朋友。起初，我觉得机器学习有些被炒作，但它涉及很多系统性问题，很有意思。后来AlphaGo出现了——这并不是凭空的突破，而是多年积累的结果。这让我大受震撼，从那以后我就再也无法忽视深度学习。
一开始，我很难接受深度学习不是昙花一现。毕竟，它的底层优化机制并不完全可解释，对受过传统计算机科学训练的人来说，这是难以接受的。但我花了一段时间才接受，并最终被它吸引。
安德鲁・梅恩：我记得在AlphaGo之前，帕乔基就曾跟我谈过“扩展凸优化原则”（Scaling up Principled Convex Optimization）。AlphaGo很有意思，最初它解决了围棋问题，我们觉得很酷，但它更多是通过观察学习。后来出现的AlphaGo Zero实现了自学，我们才意识到，发展的趋势已经非常明显，而且还在继续。
如果当时你看的不是《钢铁侠》，而是《雷神》，或许你就会走上另一条路（开玩笑的说法）。不过我自己有点后悔没更早学数学，因为它可能更有用。至于学什么？数学、理论计算机科学，或者物理学，都是很好的选择。
本文来自微信公众号“腾讯科技”，作者：腾讯科技，编译：无忌，编辑：海伦，36氪经授权发布。
