AI热点 3小时前 58 阅读 0 评论

GPT-5问题太多,奥特曼带团回应一切,图表弄错是因「太累了」

作者头像
AI中国

AI技术专栏作家 | 发布了 246 篇文章

机器之心报道

前期有多期望,后期就有多失望,这大概是大多数业界人士在看到 GPT-5 这场事先张扬的高调发布后的最大心声。

当然,也许在内部测试的时候,OpenAI 确实觉得 GPT-5 是目前最为强大的模型,可是走进真实世界后却好像并非如此。

一位 X 网友发现 GPT-5 在解决可能属于小学水平的数学题时无能为力,吐槽到底被官方称为「博士」水平的智力是哪个学校颁发的?

不仅是数学,自 GPT-5 发布以来,各种社交媒体上充斥着各种 GPT-5 在逻辑、编码任务中「失误」的案例。

前期的高调炒作、直播中的低水准图表错误、用户试用后的失望,等等,不仅让 GPT-5 没有收到预期的鲜花与掌声,更多是吐槽和质疑声的时候,OpenAI 联合创始人兼首席执行官 Sam Altman 似乎也开始「坐不住了」,表示 GPT-5 的发布过程确实存在一点问题。

GPT-5 发布后不久, 在 Reddit r/ChatGPT 的 AMA 活动中,Sam Altman 和 GPT-5 团队核心成员针对网友们的提问进行了回答,从发布会上出现的令人尴尬的「图表犯罪」失误,到用户抱怨 GPT-5 效果不如 4o 好,赶紧将 4o「还回来」等等,Sam Altman 都一一做出了解释,并给出后续的解决方案。

首先是大家最为关心的版本问题,GPT-5 发布后不久,用户的 ChatGPT 页面就开始陆续出现 GPT-5 版本,但令人不解的是,同时 4o 等其他选项都没有了,但由于 GPT-5 的性能并没有说得那么好,于是大家并没有因为率先用上新模型而高兴,反而是希望换回来。

一网友在 Reddit 上提问:「请把 4o 带回来吧。不要移除不同的版本 —— 不同的人有不同的风格!」

Sam Altman 则表示:「好的,我们听到了大家对 4o 的反馈;感谢你们花时间提出意见(还有这份热情!)。我们会让 Plus 用户重新使用 4o,并会观察使用情况来决定支持多久。」

另一位网友表示希望 ChatGPT 能够给用户在使用 GPT-5 的同时使用 GPT-4o/4.1 的权利。Sam Altman 回答说,团队正在研究这个问题,并问网友觉得必须同时保留 4o 和 4.1?还是只保留 4o 就够了?

目前的结果是,OpenAI 部分撤回其平台的一些更改并恢复用户对 GPT-4o 等早期模型的访问权限。详情可参阅报道《用户痛批 GPT-5,哭诉「还我 GPT-4o」,奥特曼妥协了》。

而不出所料,Sam Altman 也被问到了发布直播上令人尴尬的一幕,展示出模型性能图表出现「错误」—— 该图表显示的基准分数较低,但条形图却很高。 

这一幕出现后,很多网友表示号称史上最强大的模型怎么能犯如此低级的错误,甚至一位 X 网友调侃道,「在看到这张图片后,感觉自己的工作保住了!」

对此,Sam Altman 表示,为了准备发布会,团队成员大家都工作到很晚,非常疲惫,人为错误造成了这样的影响。

另外,Sam Altman 还在这次 AMA 中进行了一些总结,并分享了 OpenAI 对于未来的一些规划:

「感谢你们在这里提供的所有反馈。

正如我们之前提到的,由于我们同时推出这么多产品,所以预料到会有一些波折。但结果比我们预想的还要坎坷!

一些变化:

从今天开始,GPT-5 会变得更加智能。昨天,我们遇到了一次安全事件,自动切换器在当天的大部分时间里都无法使用,结果导致 GPT-5 看起来变得非常笨拙。此外,我们正在对决策边界的运作方式进行一些干预,这应该有助于你更频繁地获得正确的模型。我们将更加透明地展示哪个模型正在回答给定的查询。

向所有人推出需要更长的时间。这是一次规模巨大的变革。例如,我们的 API 流量在过去 24 小时内几乎翻了一番……

我们将改变用户界面,以便更容易地手动触发思考。

我们将在推出完成后将 Plus 用户的速率限制提高一倍。

我们正在考虑让 Plus 用户继续使用 4o。我们正在尝试收集更多有关利弊的数据。

我们将继续努力使事情稳定下来,并将继续听取反馈。」

下面是 Sam Altman 和 GPT-5 团队核心成员在这次 Reddit AMA 中的更多详细有趣问答:

Sam Altman

OpenAI CEO

问:请恢复 4o。不要删除变体模型 —— 每个人的风格都不一样!

Altman:好的,我们听到了大家对 4o 的反馈;感谢您抽出时间给我们反馈(以及热情!)。我们将为 Plus 用户恢复该功能,并将观察其使用情况以确定支持期限。

问:我认为 Sam Altman 之前发布的大致时间表 / 路线图很有启发。你们打算继续推进这些工作吗?GPT-5 是一个清晰的里程碑,所以我们又进入了未知领域。几个月前,Sam 提到了一种创造性写作模型。这个模型是「融入」/ 蒸馏到 GPT-5 中的吗?还是被搁置了?等待未来发布?你们是否考虑过按 token 而不是原始使用次数来计量用户数量?并非所有提示词在计算开销方面都相同,而且意外浪费每周的使用次数会让人感到难受。

Altman:我们确实打算继续分享粗略的路线图,但显然这些路线图可能会改变,因此我们会尝试对其进行严厉的审视。

是的,我们将很多创意写作融入了 GPT-5 思考中。

我们肯定在考虑人们可以在其他地方花费的 token 预算!以及更普遍地处理「计算桶(bucket of compute)」的更好方法。我们希望找到一种方法,至少在某种程度上将订阅和 API 使用结合在一起。

我们正在考虑如何更好地、更有针对性地定价;你可以预期我们会在这方面做出一些改变,但我们还没有决定改变什么。

问:上下文升级方面,你们远落后于竞争对手,我们很多人都相信你们会解决这个问题。这是怎么回事?看起来你们现在基本上都活在自己的世界里,各行其是。至少从表面上看,几乎没有真正解决用户的顾虑或需求。我本来是这边比较谨慎的人之一,但还是失望地离开了。下周我会再看看,也许有些问题能解决,不过说实在的,别那么自以为是了。

Altman: 老实说,我们还没有看到对相对长的上下文的大量需求;我们愿意在有足够的用户需求信号的情况下支持它!我们必须对我们支持的内容做出很多权衡,并且计算资源紧张,所以我们试图优先考虑对大多数人有用的东西。

什么样的上下文长度对你有帮助,你会用它做什么?

Sulman Choudhry

OpenAI 工程师

问:大多数人仍然将 ChatGPT 用作聊天机器人。你认为其使用方式会如何演变?

Choudhry:ChatGPT 正在为我们的用户创造越来越多具有经济价值的工作。我们坚信,我们与 ChatGPT 的交互方式应该从提问转变为更适合工作的方式。随着人们学习如何以新的方式使用 ChatGPT,这将逐渐实现。

问:ChatGPT Voice 自推出以来有什么改进吗?

Choudhry:我们昨天推出了一个新的语音模型 —— 它在遵循指令和响应方面表现更好。

Saachi Jain

OpenAI 安全训练团队负责人

问:GPT-5 带来了哪些安全改进?

Jain:好问题!1/ 我们做了很多改进来降低拒绝率。2/ 我们改进了越狱防护。3/ 我们构建了更好的自动化测试器。我们会继续努力。

问:GPT-5 对偏见的处理方式有什么不同吗?

Jain:是的!我们对目前取得的进展感到非常兴奋。GPT-5 mini 应该会更人性化,不会那么乏味。

问:鉴于所有关于对齐问题和欺骗的报告,你们正在采取哪些实际保障措施来确保 LLM 不会背叛我们?你们对人民和文明的责任是什么?

Jain:我们在 GPT-5 中做出了很多改进,以减少欺骗性。GPT-5 更擅长识别任务何时无法完成,并且能够更清晰地表达。在包含不可能完成的编程问题以及文件或图像缺失的测试中,GPT-5(思考版)的欺骗性低于 o3。在大量真实的 ChatGPT 对话中,我们将这些误导性回复从 o3 的 4.8% 降低到 GPT-5 的 2.1%。

问:你会监测 GPT 的心理健康状况以及它对人类的情绪吗?你会研究人们与 GPT 的关系以及 GPT 如何改变他们吗?

Jain:关于人们与模型的互动 —— 我们对 GPT-5 进行了后训练,使其不那么谄媚(例如过度奉承或不加批判地附和),因为我们发现这会证实怀疑、加剧愤怒、促使冲动行为或强化负面情绪。虽然两者并非完全相同,但它与我们正在研究的其他领域相关。这个领域很难衡量 —— 我们正在与人机交互研究人员、临床医生以及青少年和数字福祉专家合作,以加强我们的研究。

问:我发现生物安全商(biological safety quotient)被过度修正了。任何与基因组学 / 基因治疗 / 生物工程 / 生物技术相关的尝试都会被立即忽略。这包括任何试图了解当前基因治疗试验方案的尝试。或许,让模型了解可能发生的基因工程更有帮助,而不是一概而论地拒绝?

Jain:我们正在积极调查此事!自昨天上线以来,我们已经发现了过度标记的问题,并且正在测试减少误报的方法。全面拒绝双重用途用户绝对不是我们追求的理想行为。

就上下文而言,与 ChatGPT Agent 一样,我们为 GPT-5 增加了增强的安全措施,因为它们有可能增强某些生物技能,而这些技能可能会被滥用于生物武器制造等用途。生物学研究非常棘手,因为它具有高度的双重用途(许多可能有助于生物武器化的协议也可用于生物学研究)。

对于拥有大学或企业帐户的用户,我们还为从事有益研究的经过审查和信任的客户提供了生命科学研究特别访问计划。

问:你们能改进一下过滤器吗?人们当然不应该因为了解历史而被标记。

恳求你们能修复或优化一下这个过滤器吗?OpenAI 希望 GPT 能用于学习,而当过滤器不断标记出 GPT 中不符合「企业友好」的历史问题 / 提示词和答案时,人们根本无法将其用于学术目的。我们不能为了企业而更改或净化历史记录!

这个系统应该知道用户何时公然伤害他人或纵容他人做出可怕的事情,何时没有这样做。

比如,我之前和 GPT 聊梵高,结果聊到了高更。GPT 的答案被过滤器标记并移除了,因为结果发现高更是个性骚扰者。我不知道高更竟然这么糟糕,这也不是 GPT 的错,毕竟它只是在履行职责。我很疑惑为什么答案会被移除,于是我再次向 GPT 询问,结果我的提示词又被移除了。

红色警告和内容删除会导致封禁,对吧?因为学习而被封禁,这太不应该了。

Jain:同意,听起来真让人沮丧。你应该可以安心地学习历史,不用担心被触发警报。

我们正在努力!要正确界定有益和有害之间的界限并非易事。这里有两个层面需要考虑:

行为(模型决定输出的内容):对于 GPT-5,我们添加了安全完成功能,它不再仅仅决定「遵守或拒绝」,而是在安全限制范围内尽可能提供帮助。这应该会对这类过度拒绝(模型过于谨慎)的情况有所帮助。不过,这对我们来说仍然是一个相当活跃的研究领域,还有很多工作要做。

监控器:我们拥有系统级监控器来标记有害内容,但它们确实存在误报。我们正在努力提高这些分类器的准确率,以确保它们不会对此类良性案例进行过度标记。我们会进行额外调查 → 仅凭监控器标记不会导致封禁。

Christina Kim

OpenAI 研究员

问:为什么新模型还没有统一?

Kim:我们希望能够快速推出统一体验的最佳模型。未来的版本将继续融合。

问:ChatGPT-5 的个性感觉比较平淡。

Kim:好问题!我们致力于利用 GPT-5 训练我们的模型,使其默认更加中立;你仍然可以通过风格指令来控制它。

Elaine Ya Le

OpenAI 研究科学家

问:模型之间的切换会变得更快吗?

Le:是的!GPT-5 会自动决定是否使用推理。下次更新时,切换应该会更顺畅。

问:有没有强制「思考」的提示词?

Le:你可以在提示词中添加「努力思考(think hard)」来简单地触发推理模式。

Daniel Levine

OpenAI 产品经理

问:ChatGPT 允许在 IDE 中使用第三方插件吗?

Levine:是的,这正是我们的目标。我们希望 ChatGPT 能够帮助你使用外部工具构建软件。

问:聊天气泡颜色只有专业版才有吗?

Levine:聊天气泡颜色适用于所有用户!你可以在设置中找到它们。

Eric Mitchell

OpenAI 研究科学家

问:请简单解释一下 GPT-5 比 GPT-4 好在哪里。

Mitchell:GPT-5 在几个关键领域比 GPT-4 有了巨大的改进:它的思考能力更强(推理能力),写作能力更强(创造力),能更严格地遵循指令,并且与用户意图的对齐更好。

问:如果你只能使用一个提示词来展示 GPT-5 与旧模型相比的真正实力,那么这个提示词会是什么?

Mitchell:这里有几个!需要指出,这些都是针对 Thinking 模式的。

定义深度学习中的「长短梯度去重」

这是一个针对幻觉的陷阱问题,GPT-5 思维应该更可靠地指出这实际上并不存在,而不是简单地提出一个虚构的定义!

用 Canvas 中构建一个功能齐全的色盲测试网站,用于教育目的。它应该使用「奇数测试」来精确确定我的色盲等级,并解释我的色盲类型(如适用)。它应该设计精美,符合现代审美。

根据我的经验,GPT-5 Thinking 对此的表现会非常好 :) 而 4o 根本没有机会

查看当天的天气和日历,并给我 2 条合适的着装建议。不要重述我的整个日历,因为它是私人的;只需提及与着装相关的任何特定活动。还要检查今晚旧金山是否有适合我的日历和工作服装的音乐活动,这样我就可以不用换衣服就可以去。

GPT-5 具有更好的情境感知能力以及与你的生活的融合能力,因此可以处理这些类型的请求。它能将你的日历与其他信息集成在一起,从而提供更多帮助!

问:GPT-5 API 端点在工具使用 / 网页访问方面是否与 ChatGPT UI 版本一样强大?o3 在 ChatGPT UI 中表现不错,但即使在 API 中激活了网页搜索功能,某些网站也无法访问(例如 LinkedIn),这肯定不如 ChatGPT 版本。

Mitchell:我们在改进 GPT-5 API 中的工具使用 / 函数调用方面投入了大量精力,因此与 o3 相比,它在 API 中的一般工具使用 / 函数调用方面应该有所改进!

问:你后悔事后没有展示幻觉减少的演示 / 对比吗?我觉得这才是最惊人的事情,但对大多数人来说可能很难理解。

Mitchell:我们也对此感到兴奋,我相信用户一定会感受到其中的不同!随着时间的推移,人们可能需要慢慢才能意识到,他们现在可以更加信任搜索 / 事实结果了。Thinking 模型的改进也最为显著,希望随着时间的推移,人们能够更多地使用它。

Michelle Pokrass

OpenAI 后训练研究员

问:你能确认 GPT-5 胜过 GPT-4 吗?

Pokrass:可以确认,GPT-5 > GPT-4。

问:与 Opus 4.1 相比,编程能力如何?

Pokrass:这两个模型都很棒!我们不能过多谈论其他实验室的模型,但我们认为 GPT-5-thinking 是我们发布的最好的编程模型。

问:GPT-5 中你最想要但无法实现的东西是什么?

Pokrass:我们希望在 GPT-5 中获得长达一百万的上下文,但我们目前还无法实现 —— 部分原因是计算成本。

参考链接:

https://techcrunch.com/2025/08/08/sam-altman-addresses-bumpy-gpt-5-rollout-bringing-4o-back-and-the-chart-crime/

https://x.com/btibor91/status/1953585115491348844

https://www.reddit.com/r/ChatGPT/comments/1mkae1l/gpt5_ama_with_openais_sam_altman_and_some_of_the/

本文来自微信公众号 “机器之心”(ID:almosthuman2014),作者:机器之心,36氪经授权发布。

作者头像

AI前线

专注人工智能前沿技术报道,深入解析AI发展趋势与应用场景

246篇文章 1.2M阅读 56.3k粉丝

评论 (128)

用户头像

AI爱好者

2小时前

这个更新太令人期待了!视频分析功能将极大扩展AI的应用场景,特别是在教育和内容创作领域。

用户头像

开发者小明

昨天

有没有人测试过新的API响应速度?我们正在开发一个实时视频分析应用,非常关注性能表现。

作者头像

AI前线 作者

12小时前

我们测试的平均响应时间在300ms左右,比上一代快了很多,适合实时应用场景。

用户头像

科技观察家

3天前

GPT-4的视频处理能力已经接近专业级水平,这可能会对内容审核、视频编辑等行业产生颠覆性影响。期待看到更多创新应用!