小红书专项治理AI造假，重点锁定医美民宿等领域

近日，小红书官方账号“薯管家”发布《关于AI制作医美、民宿等虚假内容治理公告》，针对平台内泛滥的AI虚假体验内容开展集中整治，严厉打击借助人工智能技术伪造医美、民宿、探店等真实体验的违规内容，筑牢社区内容真实底线。

据平台排查发现，当下不少账号利用AI技术批量制作虚假内容。部分创作者通过AI生成、拼接图片伪造实景画面，或是借助工具批量产出同质化文案，凭空杜撰住宿体验、医美效果、线下探店、就医感受等个人亲历内容。这些虚假笔记极具迷惑性，严重误导普通用户的消费选择与决策判断，扰乱平台正常的内容生态。

针对这一乱象，小红书积极落实主管部门监管要求，主动履行平台主体责任，正式将AI制作、发布虚假内容的行为纳入常态化治理体系。后续平台将从高危场景管控、历史存量清理、新增内容智能识别三大维度，全面升级治理力度，精准打击各类AI造假违规行为。

公告明确了本次治理的核心高危场景与重点监管领域。平台将重点排查三类违规行为：AI制图伪造实景画面、批量生成同质化体验笔记、凭空虚构个人亲身经历。同时优先覆盖文旅住宿、医疗医美、教育培训、房产等和用户生活消费、重大决策高度相关的品类，这类领域虚假内容对用户权益的影响最大，也是本次整治的重中之重。

在具体治理举措上，小红书将开展全方位、全环节的清查整改。一方面集中清理笔记、评论、账号维度的历史违规虚假内容；另一方面持续迭代内容治理算法与规则，升级未标注AI内容的识别能力。针对同一张图片、同一段视频跨地区、跨账号重复发布使用的异常造假行为，平台也将加大智能检测力度，从源头遏制AI内容造假乱象。

据悉，今年6月至8月，小红书已完成阶段性专项整治工作，累计清理处置AI制作的虚假笔记近12万条，批量整治各类违规账号，并公开披露了多起典型违规案例。

其中，用户“泥吧”因发布AI生成的虚假医美体验笔记，内容被全数下架，账号直接封禁；用户“吹风”借助AI图文虚构民宿住宿体验，误导消费者，相关内容已删除，账号被处以禁言处罚；用户“心*阁”编造虚假家庭背景与教育经验，依托AI伪造内容包装自身人设，借机售卖教辅资料牟利，目前违规内容已清零，账号已被永久封禁。

小红书特别强调，平台并不禁止创作者借助AI工具辅助内容创作，认可AI技术为内容创作带来的便利与赋能。但明确要求，所有AI生成内容必须通过平台专属的AI内容声明功能主动标注，严禁将虚构的AI内容包装为个人真实亲历体验，欺骗、误导其他用户。

平台表示，真实、真诚的分享是社区发展的核心根基。呼吁广大创作者理性、合规使用AI工具，杜绝杜撰未到访的场地、未使用的产品、未亲身经历的事件，共同守护社区的真实氛围与信任体系。

如今AI创作工具门槛持续降低，虚假内容的制作成本大幅下降。尤其在医美、民宿、教育、房产等决策成本高、消费金额大的领域，一条精心包装的AI虚假笔记，足以左右用户的最终选择，甚至造成用户财产损失。

本次小红书针对AI虚假体验内容的专项整治，也清晰释放出平台持续严控内容质量、加固社区信任机制的坚定态度。未来，小红书将持续优化AI内容治理体系，不断升级识别与管控能力，携手合规优质创作者共建清朗、真实的社区环境。同时平台也开启用户监督通道，用户若发现疑似AI编造的虚假内容，可通过笔记右上角的“举报”入口反馈，共同参与社区治理。

原文出处：厚孜网络