5月9日，抖音于其官方公众号上发布“关于人工智能生成内容的平台规范暨行业倡议”，其中重点提到创作者、主播、用户、商家、广告主等平台生态参与者应对人工智能生成内容进行显著标识，同时虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。
随着人工智能技术的迅猛发展，AI生成内容已越来越多出现在互联网上，然而对AI技术的不当使用也频频引起社会关注。3月26日，抖音安全中心发布不当利用AI生成虚拟人物的治理公告，指出将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
为给用户带来更值得信赖、更优质的阅读体验，为创作者营造积极、良好的创作环境，今日头条始终秉持理性、客观、包容的态度对待平台的内容，持续推进内容质量的治理与优化。随着人工智能技术的快速发展，诸多辅助创作工具应运而生。
抖音关于不当利用AI生成虚拟人物的治理公告去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
“脑腐”（brain rot）当选牛津词典2024年度词汇，反映出过度使用社交平台的负面影响和人们对低质量数字内容的担忧。据英国《卫报》12月2日报道，《牛津英语词典》的出版商牛津大学出版社组织了本年度词汇评选，超3.7万人参与了此次投票。
在这个信息洪流奔涌的时代，网络谣言、网络暴力、网络诈骗以及无底线的流量事件时有发生。在我们使用社交媒体、了解热点资讯的时候，是否思考过这些迅速传播的真实性？在谣言和网暴的阴影下，真相如何得以显现？平台在这场网络环境守护战中，又是如何亮剑出击，为我们守住清朗的网络环境？
近日，平台在日常巡查中发现，有黑灰产组织试图通过“AIGC造假”“盗取他人直播内容并加以剪辑”“以官方名义发布培训课程”等多种新型行为，批量发布低质同质甚至违法违规内容，试图借此使其账号快速涨粉、“养号”，不当获利。
