快速进化的AI生成技术，让生成假照片、假图像，甚至视频换脸都更加容易，且真假难辨。尤其是AI合成的假视频甚至冒充名医、名人进行虚假宣传，对公众实施诈骗。中国工程院院士、天津中医药大学名誉校长张伯礼也是受害者之一。
来源：【湖南日报】段官敬 近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），自2025年9月1日起施行。不少网友对此表示支持和点赞。
3月3日下午，有网友向演员刘晓庆求证，视频里的是不是真的她：“@刘晓庆 我看到一个微信视频号发了很多你的视频，好像是AI生成的，是假冒的吧？很多话不是你说的。”14点28分，刘晓庆转发并回复：“天哪，我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？
AI技术(例如最近很火的DeepSeek),正在逐渐改变我们的生活方式，提升工作效率，为解决许多问题提供途径等。但与此同时，随着AI技术的迅猛发展，诈骗手法也变得愈发复杂和隐蔽，不仅涉及传统的电信诈骗，更通过声音合成、换脸等高科技手段，让人防不胜防......
央视新闻客户端 明星现身、专家卖药……一张图片、一段声音，就能生成虚假视频，今年两会期间，雷军等受害者的回应，让AI伪造侵权再次成为热点。换脸拟声合成视频 AI伪造何时休？全国人大代表 雷军：有网友说去年国庆放了7天假，8天被我骂醒。
近年来，随着人工智能技术的日益火爆，在网络上编造和传播谣言的成本也变得更低。利用AI合成技术编造谣言，甚至生成逼近真实的图片、音视频，颠覆了“有图就有真相”的常规认知，让人难辨真假。今年1月，某网络平台出现一条关于“西安爆炸”的消息。
