近期，多地公安机关发布了多起利用AI工具实施造谣的相关案件。6月20日，上海市公安局城市轨道和公交总队官方微博@轨交幺幺零发布警情通报：两名营销人员为博取关注造谣地铁站发生持刀伤人的情况，被警方依法处以行政拘留。
来源：央视网 央视网消息：公安部开展的网络谣言打击整治专项行动正在进行，近日，第2批10起典型案例公布，其中一个典型案例是绍兴警方破获的利用AI技术制作虚假视频编造网络谣言非法牟利案，该案也是浙江省首例团伙制作虚假视频案件。
央广网北京11月19日消息（记者王迟）近年来，人工智能（AI）技术发展迅速，成为全球科技领域的热点。AI已经从单纯的学术研究发展成为改变人类生活方式的重要力量。然而，却有一些别有用心之人将其变为造谣、敛财的工具。
AI又出新玩法了，先来看一个视频，像这样的影视人物对打的视频到底是怎么制作的？·首先需要先去找一个两个人对打的片段，然后把它的最后一针截图保存下来。·接着进入海螺AI，把这张图片上传上去，最重要的就是这段描述词，大家可以把它截图保存下来。我亲自测试过，中文的生成效果都差不多。
（央视财经《经济信息联播》）美国OpenAI公司发布的首个视频生成模型“Sora”在给相关内容制作行业带来震撼的同时，也引发了人们对其“深度伪造视频”可能加剧错误和虚假信息传播的担忧。当前，包括谷歌和Runway在内的多家公司，都在积极研发此类人工智能项目。
AI发展快，系紧“安全带”（“融”观中国）——“人工智能与信息保护”系列报道之二AI“换脸”实施诈骗、AI伪造图片传播谣言、AI“复活”逝者引发争议……随着人工智能技术的不断发展，AI深度伪造的例子屡见不鲜。
今年6月在某网络平台上一条工业园区火灾视频引发网友关注点击量瞬间攀升在当地轰动一时后经核实为谣言制作视频的幕后黑手也被批捕近日，案件有了新进展日前，上虞法院开庭审理并当庭宣判了一起团伙利用AI技术合成虚假视频以牟取非法利益的编造、故意传播虚假信息案。
据浙江绍兴市中级人民法院消息该院日前宣判一起团伙利用AI技术合成虚假视频以牟取非法利益的编造、故意传播虚假信息案被告人张某某、陈某某被判处有期徒刑一年一个月缓刑一年六个月据澎湃新闻此前报道，今年6月上旬，上虞警方巡查发现有网民发布关于上虞工业园区火灾的视频，浏览量迅速攀升。
顶端新闻记者 郑旭 视频来源AI疯人院近日，博主“AI疯人院”在互联网上发布了一部利用AI技术生成的《西游记》动画短片。在感叹科技进步的同时，也有网友发出疑问：AI创作的东西，可以算是原创吗?是否受版权保护?对此，相关法律人士表示，此方面确有争议，但理应归到版权保护的范畴中。
10日，上游新闻记者调查发现，在被官方批评的AI“魔改”视频中，《三国演义》《甄嬛传》《西游记》等知名影视剧是重灾区，而随着最近芒果TV综艺《再见爱人4》的爆火走红，充满争议的麦琳等人也成为“魔改”视频的新宠。
6月20日，上海警方通报表示，两名品牌营销人员为蹭热度，编造了“中山公园地铁站捅人”等不实信息，相关人员已被警方行政拘留。通报中，有个细节引人注意：一名造假者使用了AI软件生成视频技术，编造了地铁行凶的虚假视频等不实信息。这已经不是人工智能技术第一次出现在谣言中。
AI技术发展迅速，现已成为全球科技领域的热点，一些别有用心之人也趁机将其变为造谣、敛财的工具。8月21日记者从公安部网安局获悉，公安机关依法查处此类网络谣言案，目前已对利用AI编造“大风袭击致人死亡”等网络谣言的相关人员进行了处罚，并发布提示。
深度伪造（Deepfake）是一种合成媒体形式，它使用人工智能来创建看似真实的视频或图像。目前，深度伪造技术已被用于影视制作等各种场景，但同时引发了人们对其可能被滥用于恶意目的的担忧，如传播错误信息和操纵舆论。
近年来，AI技术发展迅速，成为全球科技领域的热点。AI已经从单纯的学术研究发展成为改变人类生活方式的重要力量。然而，却有一些别有用心之人将其变为造谣、敛财的工具。真实案例2024年8月，一则令人震惊的消息在网络上迅速传播。“南平松溪县遭遇严重大风袭击，造成枣岭街一人死亡”。
⇧点蓝色字关注“互联网联合辟谣平台”近日浙江温州苍南公安成功打掉一个编传旧案谣言的MCN机构“网络水军”团伙温州公安网安部门工作中发现，某平台网民通过拼接无关网络视频，并虚构、篡改、编造案件起因等关键情节，剪辑为虚假信息的“成品”视频，后在各平台发布，挑动群众情绪，严重影响社会稳
