AI聊天机器人“造黄图”惹祸，印尼马来西亚下手封锁

埃隆·马斯克旗下的AI聊天机器人Grok，因为一个“不该有”的功能，惹上了大麻烦。印尼和马来西亚两国政府宣布，要暂时封锁这款AI，原因让人脸红：它被发现可以根据用户的“奇思妙想”，生成涉及真实女性、甚至未成年人的色情图片。

这可不是P图那么简单，而是利用AI技术，制作出逼真的“深度伪造”内容，而且很多都是用户“不情愿”被制作出来的。想象一下，你的照片突然出现在一张色情图片里，而且还是AI生成的，这是多么可怕的事情！印尼通信与数字部长Meutya Hafid严厉地表示：“这种行为严重侵犯了人权和数字空间安全，绝不能容忍。”

Grok的图像生成功能，就像一个没人管的孩子，在网络上肆意妄为。虽然马斯克所在的xAI公司事后道歉，并说要把这个功能限制给付费用户，但监管机构认为，这就像“亡羊补牢”，而且独立App里还有漏洞，补救措施不够给力。

这股“AI造黄图”的风波，可不止东南亚两国。印度政府已经让社交平台X（也就是以前的推特）赶紧管管，欧盟委员会也在收集证据，准备“秋后算账”。面对全球的压力，xAI承认部分内容违反了道德和法律，但马斯克本人却在社交媒体上把这事儿归咎于“审查制度的借口”。

这起事件，就像一个响亮的警钟，提醒我们：AI技术飞速发展的同时，伦理和监管的“刹车片”也得跟上。否则，一个强大的工具，很容易变成伤害他人的利器。这次Grok的“翻车”，也让人们开始思考，AI生成内容到底该不该有底线？谁来画这条线？以及如何确保这条线不被轻易跨越？这不仅是技术问题，更是关乎社会道德和法律的挑战。