映象舆情

大象新闻记者 李莉 张迪驰

9月3日，小红书通过官方账号发布《关于AI制作医美、民宿等虚假内容治理公告》称，近期平台发现，部分账号利用AI生成虚假体验笔记，用AI生成或拼接的图片伪造实景，杜撰探店、住宿、就医、美容等使用体验，误导用户决策。

公告称，小红书已将AI制作发布虚假内容纳入常态化治理，并从三方面加大治理力度：细化管控重点，以AI生成图片伪造实景、AI批量生成同质化体验笔记、虚构亲历经历为高风险场景重点识别，文旅住宿、医疗医美、教育、房产等品类优先覆盖；聚焦存量清理，从笔记、评论、账号等多环节清理历史AI虚假内容；增补策略严控新增，同步强化未标识AI内容的识别能力，对同一图片或视频跨地域、跨账号重复使用的情形加强检测。

公告披露，今年6月至8月，平台清理处置AI制作发布的虚假笔记近12万条，并列出AI虚假医美体验、AI虚假民宿图文体验和AI虚构家庭背景及教育经验并销售教辅材料三类典型违规内容，相关内容已下架，账号予以处置。

事实上，医疗医美一直是小红书重点治理的领域，围绕AI虚假体验、内容真实性、医美资质、违规导流等营销宣传风险，持续完善治理机制。今年6月至8月，医美领域日均下架各类违规笔记超4000条，该时间段共封禁违规账号4200余个。

在此前一周，小红书刚刚公布了“清朗·整治AI应用乱象”第二阶段治理成效，称自6月份响应中央网信办部署，积极参与“清朗·整治AI应用乱象”专项以来，落实平台主体责任，深入清理AI违规信息。公告中，小红书公布了利用AI歪曲古典名著、利用AI生成虚假信息、利用AI换脸换声假冒公众人物、利用AI制作恐怖猎奇或低俗擦边内容、利用AI生成伤害未成年人的内容、利用AI托管账号批量发布同质化文案、推广仿冒套壳AI应用服务，等七类典型AI乱象的治理进展。

在最新公告中，小红书表示，平台鼓励创作者使用AI辅助创作，同时希望各位创作者合理使用AI，不虚构未曾到访的地点、未实际使用的产品或未亲身经历的事件，一起守护社区的真实与信任。公告同时呼吁，如发现疑似AI编造的虚假内容，可通过笔记右上角的“举报”入口向平台反馈。

编辑：张迪驰

责编：李莉

监制：谢金波