山西网络举报、 平安交口 近日，山西省吕梁市交口县公安局康城派出所在网安大队的支持下成功查处一起利用AI合成图片传播网络谣言的案件。违法嫌疑人司某为博取流量，利用AI生成了一张虚假高速指示牌的图片后发布在某短视频平台上。该行为严重扰乱了公共秩序，造成了恶劣的社会影响。
5月9日，抖音于其官方公众号上发布“关于人工智能生成内容的平台规范暨行业倡议”，其中重点提到创作者、主播、用户、商家、广告主等平台生态参与者应对人工智能生成内容进行显著标识，同时虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。
随着人工智能技术的迅猛发展，AI生成内容已越来越多出现在互联网上，然而对AI技术的不当使用也频频引起社会关注。3月26日，抖音安全中心发布不当利用AI生成虚拟人物的治理公告，指出将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
抖音安全中心2024年3月27日通报称，去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
近日，西藏定日县发生6.8级地震，灾情牵动人心。然而就在此时，也有个别人别有用心地用地震题材蹭热度，编造虚假信息，制造恐慌，被警方处罚。据山西网警1月10日发布消息称，1月7日，有人在某短视频平台发布消息称，“大同1月6日晚上12点发生了9.
1月7日9时05分，西藏日喀则市定日县发生6.8级地震，牵动着许多网友的心。但与此同时，一些网友为了流量，利用AI技术生成“灾区”群众被埋、房屋坍塌等虚假照片进行发布，并配文日喀则地震等关键词，造成网友误解。其中，一张“被压废墟下的小男孩”图片引发广泛关注。
