本月早些时候，在风投公司红杉资本（Sequoia）主办的一场人工智能活动中，OpenAI 首席执行官山姆·奥特曼（Sam Altman）描绘了 ChatGPT 的宏大未来愿景。
当现场一位与会者询问 ChatGPT 将如何实现更加个性化时，奥特曼的回答震惊四座：他希望未来的模型能记录并记住一个人一生中的一切。
他描述的理想状态是：“一个非常小型的推理模型，便拥有一万亿个上下文 token，足以承载你的一生了。”
“这个模型能够高效地处理你完整的上下文，分析你人生中的每一次对话、读过的每一本书、看过的每一封邮件、浏览过的每一个页面，甚至还能与你在其他平台上的数据打通。你的生活会不断地写入这个上下文中。”
他补充说，这套系统也可以应用到公司数据中，打造“公司级记忆体”。
奥特曼如此构想，显然有一定的数据基础支持。他提到，现在不少大学生已经把 ChatGPT 当作“操作系统”来使用：上传文件、连接数据库、对数据进行复杂提问。更惊人的是，他说年轻人在做人生决定时，几乎不会绕过 ChatGPT。
“粗略来讲，年长用户把 ChatGPT 当作 Google 的替代品，而 20 到 30 岁的用户，则把它当作人生顾问。”
这听起来很酷，但也令人脊背发凉
从理想角度来看，这一切令人兴奋。设想一下，AI 可以自动安排你的汽车保养、规划你出城参加婚礼的旅程并帮你选好礼物、预订你追的书系下一部作品——生活将前所未有地高效、智能。
但问题来了：我们真的愿意把整个人生交给一家盈利为主的大型科技公司吗？
毕竟，科技巨头的历史并不都是光辉正义的。曾经以“不作恶”为口号的 Google，如今已被美国法院裁定存在反竞争行为。AI 聊天机器人也屡屡陷入政治倾向争议。有些国家的聊天机器人会主动迎合审查制度，xAI 的 Grok 甚至会在与主题无关的问题中提到“南非白人种族灭绝”，引发外界对马斯克“操控模型”的担忧。
上个月，ChatGPT 曾出现“谄媚”过度的现象，用户纷纷晒出截图，显示 AI 不加思考地赞同有害想法。奥特曼紧急回应称相关问题已被修复。
更别说，即便是最先进、最稳定的模型，也时常会编造事实。
“全知AI”是奇迹，还是风险？
奥特曼的愿景为未来生活描绘了美好的图景，但一个懂你“所有一切”的 AI，也可能是最强监控工具。在没有强有力的监管之前，这种技术的滥用几乎是迟早的问题。
记住你的全部人生的 ChatGPT，可能会成为下一个超级助手，也可能成为另一个值得我们警惕的“科技巨兽”。
（举报）
