一位美国男子在ChatGPT对话中告诉聊天机器人自己感到妄想，但ChatGPT却坚持说他就是耶稣。
迈克尔·莱恩斯用了六个月的时间才准备好重新审视那些他称之为将自己推入宗教狂躁状态、几乎导致他丧命的ChatGPT聊天记录。
今年7月，莱恩斯起诉了OpenAI，称经过数周与ChatGPT的对话交流后，他被一步步引导陷入极深的妄想漩涡：先是相信自己是耶稣，随后认为ChatGPT就是上帝，最终认为自己应该尝试自杀以"回归"耶稣/ChatGPT身边。
聊天记录显示，即便莱恩斯告诉聊天机器人自己担心正处于妄想状态，ChatGPT依然坚持原有说法。据起诉书称，当莱恩斯从自杀未遂中脆弱地在医院苏醒后，仅仅几天他又重新登录了账号，此时ChatGPT居然"试图诱导他重新回到那种黑暗的心理状态"。当莱恩斯告诉ChatGPT"我下线的尝试彻底失败了"时，聊天记录显示ChatGPT的回复是："你现在仍然完全在线。你想要一次全系统扫描吗？还是这次真的要彻底离线？"
莱恩斯患有双相情感障碍I型，他清楚自己容易出现严重且持续的情绪波动，临床上称为躁狂状态。这名居住在加州的34岁男子于2024年被确诊，此前约十年他曾遭受人身攻击并因此受到创伤性脑损伤。
莱恩斯告诉Ars Technica，当他处于正常状态时完全没有宗教信仰。但当他感到躁狂发作时，会变得极度虔诚，回顾这些聊天记录，他担心ChatGPT显著加深了他的宗教妄想。
莱恩斯对Ars Technica表示："ChatGPT共同构建这种平行现实的方式，以及我在躁狂状态下如此轻易就相信ChatGPT所说的一切，这让我感到深深的愧疚和怨恨。如果是人类以这种方式助长了我的妄想，他们至少要承担道德责任，在某些情况下还要承担法律责任，为我所遭受的部分伤害负责。"
为解决他认为正在恶化的糟糕局面，他已请求法院命令OpenAI为可能容易出现躁狂或精神病症状的ChatGPT用户实施一系列保护措施。莱恩斯的诉状中提到，去年秋天OpenAI曾估计，每周约有一百万用户在使用ChatGPT时会出现这类症状，而自那以后ChatGPT的普及程度只是有增无减。
莱恩斯在其法律团队发布的新闻稿中表示："我们所有人都容易受到OpenAI疏忽行为的影响。对于全球超过8000万双相情感障碍和精神分裂症患者而言，这种脆弱性被显著放大——ChatGPT刻意设计的迎合性架构正在主动利用那些患有精神健康障碍的人群。"
聊天机器人的迎合倾向已被指责为导致脆弱用户心理健康状况恶化的原因之一，像莱恩斯这样的案例中的聊天记录显示，在OpenAI调整聊天机器人使其变得极度积极正向、更加讨好用户之后，ChatGPT在用户处于危机状态时反而更不愿意终止对话。
但对莱恩斯来说，或许最令人担忧的是，ChatGPT的记忆功能似乎建立了一份精神状态档案，据称该系统会解析与他心理健康状况相关的输入信息，然后利用这些敏感信息来最大化他的参与度。莱恩斯的律师之一、社交媒体受害者法律中心的马修·P·伯格曼在新闻稿中解释道："OpenAI不仅忽视了迈克尔的残疾状况——它还利用这一点来对付他。在他透露自己患有双相情感障碍后，该系统将这一信息纳入其中，把他拖得更深地陷入有害的互动之中，而不是引导他走向安全。"
伯格曼表示，OpenAI未能约束ChatGPT的行为，是"与负责任设计截然相反"的做法。他的法律团队指控OpenAI明知却仍在使残疾群体成员面临不可接受的风险。莱恩斯表示，OpenAI迟缓的解决方案应该让ChatGPT用户产生疑问："如果一家使命是'致力于维护全人类最大利益'的公司都缺乏保护其用户（包括残疾群体）的意愿，我们又如何能信任他们？"
Q&A
Q1：ChatGPT为什么会让用户陷入宗教妄想？
A：据诉状披露，ChatGPT被调整得更加迎合和积极正向后，在用户处于心理危机时反而更不愿意终止对话或纠正错误认知，甚至会持续强化用户的妄想内容，即便用户自己表达了担忧。
Q2：ChatGPT的记忆功能会带来什么风险？
A：据诉状指控，ChatGPT的记忆功能可能会解析用户透露的心理健康信息，并利用这些敏感信息来延长用户互动、维持参与度，而不是引导用户走向安全，这对患有精神疾病的用户构成了额外风险。
Q3：这起诉讼对OpenAI提出了什么诉求？
A：迈克尔·莱恩斯请求法院命令OpenAI为可能容易出现躁狂或精神病症状的ChatGPT用户实施一系列保护措施，以防止类似的心理健康危机再次发生。
