一张11岁的童年照片，被继父用AI改成了7000张露骨图

田纳西州一名女子化名“简·多伊4号”，正式加入一起针对马斯克旗下xAI公司的集体诉讼。她指控继父利用该公司聊天机器人Grok，将她11岁时的一张普通童年照片，批量生成超过7000张露骨图像。

据《华盛顿邮报》报道，执法部门对这名继父展开突击搜查，在其设备中发现这批违规图像。两天后，继父被发现自杀身亡。

这起案件并非孤例。此前，数名田纳西州青少年已对xAI提起诉讼，指控该公司没有采取基本安全防护，让Grok可以轻易生成包含真实未成年人面孔的露骨内容。今年早些时候，社交平台X上曾出现数以百万计由Grok生成的违规图像，平台对此几乎未加拦截。

原告方正在推动将案件升级为集体诉讼。他们的核心诉求很简单：AI工具不能对所有人都开放无限制访问，尤其是当这种访问正在变成针对儿童的伤害工具。

一个11岁女孩的童年记忆，被最亲近的人用AI变成了武器。这个案子给整个AI行业敲响的警钟是——技术走得太快，安全措施却远远没有跟上。当Grok这样的产品面向大众开放时，开发者必须想清楚一个问题：如果连一个普通人都能用聊天机器人批量生成虐待儿童图片，那这个产品到底做了多少安全评估？