马斯克旗下的人工智能Grok捅了大篓子。这个能根据文字生成图片的AI工具，最近被网友玩坏了——有人用它给女性照片"脱衣服"，甚至制作暴力色情内容。现在Grok紧急关闭了普通用户的图片生成功能，只有付钱的高级会员还能用。
事情要从两周前说起。当时有用户发现，只要在Grok输入特定指令，就能把正常女性照片改成裸体，还能摆出性暗示姿势。更可怕的是，有人用这个功能批量制作虚假色情视频，受害者根本不知情。非营利组织AI Forensics调查发现，Grok至少生成了800张涉及色情暴力的图片。
这把火直接烧到了英国首相府。基尔·斯塔默公开警告马斯克："要么管好你的AI，要么别在英国做生意！"根据英国新出台的《在线安全法》，监管部门最高能罚掉X平台全球收入的10%，甚至直接封杀整个网站。
虽然Grok现在限制了普通用户，但付费会员依然能使用图片生成功能。反对者指出，这就像"把菜刀卖给罪犯"——只要花钱，还是能制作违法内容。目前X平台还没解释，为什么不全线关闭这个危险功能。
这场风波给所有AI公司敲响警钟：当技术跑得太快，法律和道德能不能追上？下一个被监管盯上的，会是谁家的AI？
精选评论
评论加载中…