抖音发布2024直播治理报告，引入音频审核大模型，强化违规内容治理

抖音直播治理：精细化运营与技术创新并行

2024年，抖音直播在内容治理方面取得了显著成效。一方面，平台通过升级主播管理机制，强化内容识别技术，实现线上线下联动治理；另一方面，抖音直播在AI技术的深度应用上取得了突破，引入音频审核大模型，强化违规内容治理。

专项团队摸排违规线索，紧密配合黑灰产查处

过去一年，抖音直播成立了专项团队，分级分类摸排违规线索，并上报公安机关。同时，平台上线多个针对性内容检测能力，前置打击企图在直播前利用头像、背景图、评论等信息进行黑产引流的账号。在直播中对色情二维码等内容实现快速断播，色情黑产重复违规率减少30%，无限期回收7.4万个涉色情导流黑灰产账号的直播权限，对涉嫌导流欺诈黑产的15万个账号无限期回收直播权限。

“健康分”机制升级，强化主播日常行为管理

2024年1月3日，抖音直播新版“健康分”正式生效。在针对直播间违规内容做单次处罚的基础上，平台根据主播日常直播行为增减账号“健康分”，并依据分值对账号分级定档，对应不同的长效管理措施。同时，抖音直播制定了将“主播健康分”与机构进行关联的管理规则，如主播内容违规，机构需要承担对应的管理责任，并持续开展机构安全培训。2024年，机构主播的重复违规率下降10%。

AI大模型助力，提升违规内容治理效果

随着AI大模型在治理上的广泛应用，抖音直播着重加强对各类违规内容的治理，开展二十余次专项行动，共无限期回收直播权限账号32万个，清退直播机构526家。AI技术的深度应用将有效改善违规内容曝光时长的核心痛点，未来大量风险内容的识别、研判将逐渐由人审处置转移为机器自动识别 + 处置。

强化重点人群保护，打造安全可信的直播环境

抖音直播升级未成年人保护机制，未经监护人允许的未成年人打赏消费，一经核实，将先行全额垫付退赔，平均21小时可完成退款。此外，抖音直播还升级重点人群保护机制，探索“城市+平台”联动治理模式，帮助9.5万个未成年人所在家庭快速退款，预防 消费。

加强与警方配合，严厉打击线下违法犯罪行为

大部分严重违规的直播间，都来自线下违法甚至犯罪行为。仅靠线上治理无法真正解决问题，因此抖音直播加强与警方配合，严厉打击线下违法犯罪行为。2024年，抖音直播主动向相关部门上报黑产线索300余条，配合公安机关捣毁犯罪窝点100余个，抓捕犯罪嫌疑人361名。

“健康分”机制成效显著，直播间违规率明显下降

“健康分”机制的实施取得了显著成效。大部分主播开始主动修正内容，至2024年底，共有100万主播被扣除过健康分，76%的低分主播主动调整内容后不再违规，直播间违规率明显下降。

城市+平台联动治理，违规行为大幅减少

抖音直播联动长沙、沈阳等城市的相关部门，结合直播特点针对性建立“快速预防+高效处置”的联动机制，对反复违规的账号升级处置力度、对涉及线下违规的行为共同打击，违规行为大幅减少。

直播治理新篇章：抖音专项团队打击违规行为

在过去的岁月里，抖音直播平台积极构建安全、健康的直播环境。2023年，抖音直播成立了专项团队，针对违规内容进行分级分类摸排，并向公安机关上报线索。通过紧密配合，成功查处了黑灰产，实现了对违规账号的前置打击。例如，针对直播前的黑产引流，抖音直播通过头像、背景图、评论等信息进行识别，有效遏制了黑产账号的恶意行为。同时，平台还实现了对色情二维码等违规内容的快速断播，将色情黑产重复违规率降低了30%，并无限期回收了7.4万个涉色情导流黑灰产账号的直播权限。

健康分机制升级：主播行为与账号分级挂钩

2024年1月3日，抖音直播正式实施新版“健康分”机制。该机制不仅对直播间违规内容进行单次处罚，还根据主播日常直播行为增减账号“健康分”，并根据分值对账号进行分级定档。这一举措旨在通过长效管理措施，提升直播内容质量。同时，抖音直播还制定了将“主播健康分”与机构进行关联的管理规则，如主播内容违规，机构需承担相应管理责任。2024年，机构主播的重复违规率下降了10%。

AI大模型助力：精准识别违规内容

随着AI大模型在直播治理领域的广泛应用，抖音直播对各类违规内容的治理能力得到了显著提升。2024年，抖音直播开展二十余次专项行动，共无限期回收直播权限账号32万个，清退直播机构526家。AI大模型通过大量预训练，掌握了直播场景中的常用表达方式，具备基本的逻辑推理能力。同时，它还能分析文本内容，兼顾环境音、氛围音等信号特征，感知音频包含的情绪，辅助判断语义。这将有效改善违规内容曝光时长的核心痛点，使大量风险内容的识别、研判逐渐由人审处置转移为机器自动识别 + 处置。

“城市+平台”联动治理：探索多元化治理模式

抖音直播在网红城市爆火的背景下，积极探索“城市+平台”治理模式。2024年，抖音直播共帮助9.5万个未成年人所在家庭快速退款。对于退款账号，平台将关闭其充值消费功能，预防 消费。一年来，抖音直播主动向相关部门上报黑产线索300余条，配合公安机关捣毁犯罪窝点100余个，抓捕犯罪嫌疑人361名。

音频审核大模型：强化违规内容治理

抖音直播在原有AI应用基础上，引入音频审核大模型，强化违规内容治理。该模型通过大量预训练，掌握直播场景中的常用表达方式，具备基本的逻辑推理能力。同时，它还能分析文本内容，兼顾环境音、氛围音等信号特征，感知音频包含的情绪，辅助判断语义。这将有效改善违规内容曝光时长的核心痛点，使大量风险内容的识别、研判逐渐由人审处置转移为机器自动识别 + 处置。

大部分严重违规的直播间，都来自线下违法甚至犯罪行为。仅靠线上治理无法真正解决问题。因此，抖音直播积极与警方配合，严厉打击线下违法犯罪行为。例如，对于“健康分”低于70的主播，平台会减少推荐、限制单日PK次数，甚至限制违规场次收益提现、关闭礼物收入功能等。至2024年底，共有100万主播被扣除过健康分，76%的低分主播主动调整内容后不再违规，直播间违规率明显下降。

案例来源与时间节点：打造安全可信的网络直播环境

本案例来源于抖音直播，时间为2023年至2024年。抖音直播围绕完善主播管理机制、强化内容识别技术、线上线下联动治理、重点人群保护等方面，努力为广大网友打造安全可信、风清气正的网络直播环境。