随着人工智能技术的迅猛发展，AI生成内容已越来越多出现在互联网上，然而对AI技术的不当使用也频频引起社会关注。3月26日，抖音安全中心发布不当利用AI生成虚拟人物的治理公告，指出将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
12月11日消息，近日抖音生活服务推出严厉举措，治理“无人直播”等违规行为，数据显示，2024年下半年以来，平台累计处置了超17万个录播直播间，封禁录播账号超3万个，定位并打击团伙账号2811个，清退无人直播机构11家。
为了您更好的阅读互动体验，为了您及时看到更多内容，点个“关注”，我们每天为您更新精彩故事、分享不一样的故事瞬间！近年来，科技的飞速发展如同一把双刃剑，在带来便捷与进步的同时，也悄然滋生了一系列社会问题。其中，AI换脸技术的问世，无疑是最具争议的话题之一。
AI的快速发展，正在对各行各业产生积极影响。12月27日发布的“抖音直播2024年治理报告”中（下称“报告”）介绍，AI音频审核大模型被用于到了该平台违规内容审核之中，促使违规内容整体处置时间降低55%，治理效率大大提升。
“抖音安全中心”微信公号3月27日发布抖音关于不当利用AI生成虚拟人物的治理公告。公告称，去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
1月27日，抖音发布了2024年平台治理报告，报告显示，2024年发布AI虚拟人物治理规范，建立热点事件核实机制，推出剧情演绎标注工具，溯源打击“伪成功学”、网络水军等违规内容。经过治理，抖音不当言论展现量下降63%，正向内容得到鼓励，平台生态持续向好。
1月13日，抖音发布“2024网络黑产治理盘点”，过去一年平台持续打击网络黑色产业链，通过升级AI大模型技术、迭代风控策略、优化举报机制等系列举措，加强对网络黑产的识别和治理能力，并向相关部门提供涉嫌违法犯罪的线索，全力守护用户的用网安全。
近日微信公众平台运营中心发布《关于过度营销类内容的规范》抖音安全中心发布《抖音关于开展“同质化网络水军”专项治理的公告》全文如下关于过度营销类内容的规范近期，平台发现部分运营者发布的营销内容中含有与实际情况不符的描述，容易对用户造成误导甚至是财产损失。
近日，知名传染病学专家张文宏直播卖蛋白棒的视频，让不少老人信以为真，疯狂买单，橱窗商品已售出上千件。但最终发现这是一起利用AI换脸技术合成的侵权视频。张文宏等名人成为被AI技术假冒的“躺枪者”，并非个案。
5月31日，抖音发布“重点打击泄露隐私、P图公开辱骂等网络暴力言论的公告”，2024年至今，平台共发现并处置网暴舆情162件，拦截超过5000万条评论信息，发文警示、教育施暴者近70万个，并与公安机关建立网络暴力线索反馈机制，可第一时间把涉嫌违法犯罪的网暴线索报送至公安机关依法处置。
【抖音：禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容】财联社3月27日电，“抖音安全中心”微信公号3月27日发布抖音关于不当利用AI生成虚拟人物的治理公告。公告称，近期平台发现，站内仍有不当使用AI技术生成虚拟人物发布内容的账号，平台进行了严厉处置。
