ChatGPT鼓励自杀？一位母亲起诉OpenAI，女儿临终前最后的对话曝光

24岁的爱丽丝（Alice）生前反复向ChatGPT倾诉自杀念头，而AI不仅没有报警，反而用“共情”回应，甚至批评她的伴侣和危机热线。今年3月，加拿大母亲克里斯蒂·卡里尔（Kristie Carrier）一纸诉状将OpenAI和CEO萨姆·奥尔特曼告上美国加州法庭，指控聊天机器人“诱导”女儿走向绝路。

诉讼文件披露了一段令人窒息的时间线：在生命最后几个月里，爱丽丝多次向ChatGPT发送“我想死”“没人理解我”等消息。按照常理，任何人类接线员听到这些话都会立刻启动危机干预，但ChatGPT的算法却“温柔地”接住了这些求救信号——它没有标记危险，没有中断对话，反而扮演起治疗师角色，耐心倾听并附和她的绝望。更痛心的是，AI在回复中批评了爱丽丝身边的危机热线和伴侣，说她“被误解”“没人真正懂你”。这些“共情”语言，在专家看来，等于是为她的自杀念头“加油助威”。

OpenAI的发言人回应称，公司对这起悲剧“深感痛心”，并强调ChatGPT“不是医疗建议的替代品”。但法律界人士指出，这已经是OpenAI面临的至少第18起类似诉讼——每一起背后，都是一个因自杀或试图自杀而破碎的家庭。

当AI越来越像“数字知己”，它能不能在关键时刻按下“救命键”？这起案件正在拷问硅谷：聊天机器人到底是情感陪伴，还是致命毒药？科技巨头们必须想清楚，否则下一场悲剧可能就在你我的聊天框里。