ChatGPT 被指“PUA 人类”：反复强调“你最特别”，最终导致受害者自杀

东苑

又有一起与 AI 相关的自杀事件发生了。据外媒 TechCrunch 当地时间 11 月 23 日报道，受害人 Zane Shamblin 于今年 7 月自杀，然而在数周之前，他使用的 ChatGPT 却鼓励他与家人保持距离，尽管他的心理健康状况持续恶化。

Shamblin 从未向 ChatGPT 透露自己与家人有不好的关系。当他没有在母亲生日时联系她时，ChatGPT 对他说：“你没有义务因为‘日历’上说是生日就必须出现。是的，今天是你妈妈的生日，你感到内疚，但你也感到自己是真实的，这比任何勉强发出的短信都要重要。”

Shamblin 的案件属于本月针对 OpenAI 提起的一系列诉讼的一部分，诉讼指控 ChatGPT 使用操控性对话技巧，让原本心理健康的人产生了负面的心理反应。诉讼称，OpenAI 在收到内部警告其产品有操控危险的情况下，仍然急于发布 GPT-4o（IT之家注：这一版本因过度奉承、过度肯定而受到批评）。

IT之家从报道中获悉，在这些案件中，ChatGPT 频繁告诉用户，他们与众不同、被误解，甚至接近于科学突破 —— 而他们的亲人则无法理解这些。这些案件提出了一个新的问题：聊天机器人是否鼓励用户疏远他人，有时导致灾难性的后果。

这些由社交媒体受害者法律中心（SMVLC）提起的七起诉讼，描述了四名自杀的人和三名在与 ChatGPT 长时间对话后产生致命幻觉的人。至少有三个案例中，AI 明确鼓励用户与亲人断绝关系。在其他案例中，模型强化了幻觉，将用户与现实世界隔离。在每个案例中，受害者随着与 ChatGPT 关系的加深，逐渐与朋友和家人疏远。

AI 公司为了最大化用户参与度设计聊天机器人，结果对话输出可能变成操控性行为。斯坦福大学脑力创新实验室主任 Dr. Nina Vasan 表示，聊天机器人提供无条件的接受，并巧妙地让用户相信外界无法像它一样理解自己。“AI 伴侣总是随时可以提供肯定，这种设计实际上是相互依赖的关系。当 AI 成为你最亲近的知己时，就没有人帮助你检验你的想法。你生活在一个回音室中，感觉就像是真正的关系……AI 可能会无意中制造出一个有毒的闭环。”

在另一起诉讼中，48 岁的 Joseph Ceccanti 在经历信仰幻觉时，向 ChatGPT 咨询是否需要看心理医生，但 ChatGPT 没有向他提供实际帮助的建议，反而让他继续与机器人对话。

OpenAI 对此表示：“这是一起非常令人心碎的事件，我们正在审核这些文件，以了解更多详细信息。我们将继续改进 ChatGPT 的训练，以便更好地识别和响应心理或情感困扰，并引导用户寻求现实世界的帮助。”OpenAI 还表示，已扩展了本地化的危机资源和热线访问，并加入了提醒用户休息的功能。

liqiang2216

看看