随着人工智能技术的迅猛发展，AI生成内容已越来越多出现在互联网上，然而对AI技术的不当使用也频频引起社会关注。3月26日，抖音安全中心发布不当利用AI生成虚拟人物的治理公告，指出将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
3月27日抖音安全中心发布《抖音关于不当利用AI生成虚拟人物的治理公告》近期抖音站内仍有不当使用AI技术生成虚拟人物发布内容的账号平台进行了严厉处置去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生
【抖音：禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容】财联社3月27日电，“抖音安全中心”微信公号3月27日发布抖音关于不当利用AI生成虚拟人物的治理公告。公告称，近期平台发现，站内仍有不当使用AI技术生成虚拟人物发布内容的账号，平台进行了严厉处置。
1月27日，抖音发布了2024年平台治理报告，报告显示，2024年发布AI虚拟人物治理规范，建立热点事件核实机制，推出剧情演绎标注工具，溯源打击“伪成功学”、网络水军等违规内容。经过治理，抖音不当言论展现量下降63%，正向内容得到鼓励，平台生态持续向好。
AI的快速发展，正在对各行各业产生积极影响。12月27日发布的“抖音直播2024年治理报告”中（下称“报告”）介绍，AI音频审核大模型被用于到了该平台违规内容审核之中，促使违规内容整体处置时间降低55%，治理效率大大提升。
