随着人工智能技术的迅猛发展，AI生成内容已越来越多出现在互联网上，然而对AI技术的不当使用也频频引起社会关注。3月26日，抖音安全中心发布不当利用AI生成虚拟人物的治理公告，指出将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
【抖音：禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容】财联社3月27日电，“抖音安全中心”微信公号3月27日发布抖音关于不当利用AI生成虚拟人物的治理公告。公告称，近期平台发现，站内仍有不当使用AI技术生成虚拟人物发布内容的账号，平台进行了严厉处置。
问题的关键在于，找出技术的负面价值，将其规范化，治理好。和迪丽热巴“接吻”、与刘亦菲“深情对视”、24小时AI主播带货、“赛博美女”、乘地铁的照片被“一键脱衣”……AI生成内容最近在网络中屡屡刷屏，似乎“有图有真相”的时代彻底结束了。
3月26日，抖音安全中心再次发布关于AI生成虚拟人物的声明称：去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
视频号可能对AI 虚拟主播带货实行最严限制令。南都记者了解获悉，日前为优化视频号橱窗生态，腾讯对《视频号橱窗达人“发布低质量内容”实施细则》进行修订，其中“使用插件、AI等工具生成虚拟形象进行直播”将会被判定为“非真实直播”。
