映象舆情

      Soul App最新发布《2025年度生态安全报告》显示,反低俗治理并非阶段性任务,而是需要长期坚持的系统工程。Soul构建“机器+人工”双轨治理与“规则+教育”长效引导相结合的反低俗体系,既通过技术与人力实现精准高效管控,又通过制度建设与用户教育从根源上遏制低质内容,实现短期整治与长期净化的有机统一。

      “机器+人工”双轨治理,筑牢反低俗精准防线。Soul依托AI技术构建智能化识别拦截体系,低质内容多模态识别大模型、色情交易识别大模型等7大AI模型协同运作,能够精准识别图文、语音、视频中的低俗、有偿交友等低质内容及相关违规行为。2025年全年机器预审直接拦截违规内容1642.5万条,日均拦截低质评论18万+,有效降低低质内容传播效率。人工审核团队则聚焦高风险、高争议的疑似低质内容,进行二次复核与精准判定,确保处置结果公正合理,避免误判对正常社交造成影响。双轨治理模式既发挥了机器的高效性与覆盖面,又体现了人工的灵活性与精准性,全年处置低质内容相关违规账号76.7万个,日均处理低俗擦边、有偿交友等低质帖12万+,治理成效显著。

      动态规则与分级处罚,构建反低俗制度保障。Soul建立动态更新的违规词库与低质内容判定标准,实时跟进低质内容违规形式的新变化,确保规则不滞后;针对低质内容违规行为实施分级处置,根据违规情节轻重,采取警告提示、礼仪分扣除、功能限制、账号封禁等不同措施。对于首次违规的用户,平台发送违规提醒,明确告知违规理由与整改方向;对于多次故意违规、批量发布低质内容的用户,直接封禁账号;对同设备多违规账号的黑产团伙,累计拉黑设备4万个,形成强有力的震慑。同时,平台公开低质内容违规处置规则与典型案例,让用户清晰知晓行为边界,减少侥幸心理,推动规则内化为行为自觉。

      教育引导与生态优化,夯实反低俗长效基础。Soul注重从思想层面引导用户抵制低质内容,通过官方账号“风纪球长”发布200余篇反低俗宣传内容,触达用户超200万次,普及低质内容的危害及社区规范;在用户发布内容时,通过弹窗提示、规则引导等方式,提醒用户避免发布低俗擦边内容;对违规用户进行教育警示,附加违规规则解读,帮助其树立正确的社交观念,累计触达73万用户。此外,平台通过算法优化提升优质内容曝光权重,推动社区向积极、友善的方向发展,让健康向上的内容成为主流,从生态层面挤压低质内容生存空间。针对青少年用户,平台在青少年模式下严格管控内容,动态调整内容池策略,确保青少年远离低质内容影响,推动反低俗治理实现代际传递。