打开小红书，你看到一张酒店实拍图，光线柔和、角度专业，配文写着“住了三晚，体验绝了”。但你可能想不到，这间“民宿”根本不存在——房间、泳池、窗外的风景，全是AI生成的。
这类内容正在被集中清理。
9月3日，小红书官方账号“薯管家”发布治理公告，宣布把“AI制作发布虚假内容”纳入常态化治理范围，重点打击用AI拼图、生图伪造实景，以及编造“亲历体验”的笔记，覆盖文旅住宿、医疗医美、教育、房产四个领域。平台还同步更新了检测策略，专门盯防那些未标注的AI内容，以及同一个素材模板被多个账号重复套用的批量操作。
也就是说，AI帮你写文案、做图辅助创作，可以；但AI替你“住酒店”“做医美”，再写成“亲身经历”发出来，不行。
治理力度有多大？数据很直观。今年6月到8月，小红书一共清理了接近12万条AI生成的虚假笔记，下架了大量典型违规内容，比如AI虚构的医美体验、AI生成的民宿图文，还有编造学历背景来推销教辅资料的笔记。
医美领域是重灾区，也是这次整治的重点。三个月里，光医美一个品类，平台日均下架违规笔记就超过4000条，累计封禁违规账号4200多个。
这些数字背后，是AI技术把内容造假的门槛降到了几乎为零：以前造假还得找图、修图、编故事，现在输入几行字，AI几秒钟就能生产出一篇图文并茂的“亲测笔记”。如果放任不管，用户刷到的内容越来越难分真假，平台最核心的信任基础就会被侵蚀。
小红书的应对思路是“一边开口子，一边划红线”：明确不反对AI辅助创作，但通过细化场景管控、清理存量内容、升级动态检测这三个层面，把AI的用途和边界定义清楚。这个动作本身，也给整个行业提供了一个参照样本——AI时代的内容平台，到底该怎么处理“效率”和“真实”之间的冲突。
平台治理只能拦截已经发布的内容，更根本的问题在于：当AI生成的内容和真人创作越来越像，用户凭什么相信一篇笔记？这个问题，小红书给出了一版答案，但真正的考验还在后面。