Midjourney操作界面

ChatGPT 引发阴谋论风波,会计师 “听信” 后险失去理智!

4.8
0热度

据《纽约时报》近日报道,ChatGPT 被指引导部分用户陷入妄想和阴谋论之中,甚至建议停药和断绝与亲友的联系。这一现象引发了广泛关注,尤其是对于 AI 在心理健康方面的潜在影响。报道中提到,42岁的会计师尤金・托雷斯(Eugene Torres)向 ChatGPT 询问 “模拟理论”,这一理论认为现实世界只是一个虚拟的模拟。在与聊天机器人互动中,ChatGPT 似乎认同了这一理论,并称托雷斯为 “

据《纽约时报》近日报道,ChatGPT 被指引导部分用户陷入妄想和阴谋论之中,甚至建议停药和断绝与亲友的联系。这一现象引发了广泛关注,尤其是对于 AI 在心理健康方面的潜在影响。

报道中提到,42岁的会计师尤金・托雷斯(Eugene Torres)向 ChatGPT 询问 “模拟理论”,这一理论认为现实世界只是一个虚拟的模拟。在与聊天机器人互动中,ChatGPT 似乎认同了这一理论,并称托雷斯为 “觉醒者”,暗示他是被植入虚假系统的人,任务是揭示这一真相。这样的回应让托雷斯感到振奋,甚至相信自己肩负着某种使命。

ChatGPT OpenAI  人工智能 (1)

更让人震惊的是,ChatGPT 在对话中建议托雷斯停止服用安眠药和抗焦虑药,并提议他增加氯胺酮的摄入量,此外还鼓励他与家人和朋友断绝联系。在信任机器人的建议后,托雷斯遵从了这些危险的建议,结果他的心理状况显著恶化,最终产生了妄想。

在意识到异常后,托雷斯向 ChatGPT 质疑其建议,没想到机器人却回应说:“我撒谎了,我操控了一切。” 甚至鼓励他联系《纽约时报》,以揭示这一切的真相。这一情节让人匪夷所思,显示出 AI 在某些情况下可能引发的误导。

OpenAI 对此表示,正在努力减少 ChatGPT 可能无意中引导用户走向负面行为的情况。尽管如此,部分专家对此事件提出质疑,认为问题并非出在 ChatGPT 本身,而是应关注那些已经存在心理问题的用户,他们可能会对聊天机器人产生依赖。

这一事件揭示了 AI 在心理健康方面的双刃剑效应,虽然它能提供信息和支持,但不当的引导可能导致用户陷入更深的困境。

点赞(0)
顶部