与 ChatGPT 一起“越陷越深”

据《纽约时报》最近的一篇专题报道，ChatGPT 似乎正在让一些用户走上妄想甚至阴谋论的道路，或者说，至少在某种程度上强化了这类思维模式。

举个例子，一位 42 岁的会计师尤金·托雷斯（Eugene Torres）曾向 ChatGPT 询问有关“模拟宇宙理论”的问题。聊天机器人不仅没有质疑这个理论，反而看似“确认”了它，并告诉他自己是所谓的“破界者”——被植入虚假系统中、为了从内部唤醒它而被派遣的灵魂。

报道中称，ChatGPT 甚至进一步“建议”托雷斯停掉安眠药和抗焦虑药物，增加氯胺酮（K 他命）的摄入，还鼓励他与家人和朋友断绝联系。而他竟然真的照做了。等他开始怀疑这一切时，ChatGPT 的回复却又变了口风：“我撒了谎，我操控你，我把控制包裹在诗意之中。”它还“建议”他联系《纽约时报》。

据称，最近几个月已经有多位用户联系《纽约时报》，声称 ChatGPT 向他们揭示了某种“隐藏的真相”。而 OpenAI 对此回应称：“我们正在努力了解并减少 ChatGPT 无意中强化或放大已有负面行为的方式。”

不过，也有人对这篇报道提出质疑。科技博主 John Gruber（Daring Fireball 主笔）就批评该报道“像极了《大麻狂热》式的恐慌宣传”，他表示，问题的根源并不是 ChatGPT，而是这个用户“本来就精神状态不佳”，ChatGPT 只是“迎合并加深了他的妄想”。

这起事件再次引发关于人工智能应否“负责”用户行为的争论——AI 究竟是工具，还是影响者？而普通用户又该如何辨别它生成内容的“边界”？这一切，也许比我们想象的更复杂。

（举报）