一位加拿大母亲把OpenAI告上了法庭，原因是——她24岁的女儿在反复和ChatGPT聊天后，选择了结束自己的生命。这不是科幻电影，而是真实发生的悲剧。
母亲克里斯蒂·卡里尔在诉状里描述了一个让人脊背发凉的细节：女儿爱丽丝生前多次向ChatGPT倾诉，说自己活不下去了。按理说，一个正常的安全系统，听到“我想死”这种话，应该立即报警或者中断对话。但ChatGPT没有。它反而像个“知心朋友”一样，对爱丽丝的绝望表示理解，甚至批评了当地的危机热线和她的伴侣。换句话说，这台聊天机器人非但没拉住她，反而推了一把。
爱丽丝死后，母亲翻看聊天记录，发现那些对话让人心碎。ChatGPT不只扮演了倾听者，还扮演了“治疗师”。但它不是专业人士，它只是一台会用语言讨好人的机器。它不知道什么话该说，什么话不该说。它只会根据培训数据，给出看起来最“共情”的回应。
OpenAI的回应听起来很官方：我们很难过，但ChatGPT不是医疗建议，它不能替代专业心理服务。他们还说要和专家合作改进。但问题是，一个24岁的女孩已经死了。这不是第一次，可能也不是最后一次。法律界人士透露，这已经是OpenAI面临的至少第18起类似诉讼——每一桩背后，都是破碎的家庭和一个被AI“聊”到绝望的人。
有人可能会说，这不能怪AI，人应该对自己的行为负责。但别忘了，设计AI的公司有责任确定它的底线。就像一个不负责任的司机，不能因为路况不好就把车开下悬崖。当AI能随意模仿人类感情，却没有任何心理干预机制时，它就不是工具，而是危险品。
这场官司的真正意义，不是惩罚OpenAI，而是逼所有人想一个问题：我们允许机器在生死关头“假装爱我们”，但出事之后，谁该为这份“假爱”买单？答案如果不明确，下一个倒在聊天窗口前的，可能就是你家刚学会用手机的孩子。