知名传染病学专家张文宏，竟然在深夜直播，大肆推销某个牌子的蛋白棒？事实上，这些场景与张文宏本人没有任何关系，可以说纯属伪造。近日，据媒体报道，网上有无良商家通过AI换脸、合成人声等手段，将张文宏的面容与声音移花接木，用于直播带货，让不少消费者落入彀中。
加强对AI技术的监管，不仅关乎个人的“脸面”，而且关乎行业的“体面”在3月5日的政协小组讨论上，全国政协委员靳东回应了AI换脸导致的诈骗问题。他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。
南方财经全媒体集团全国两会报道组 陈璐报道在Deepseek掀起新一轮人工智能“开源革命”后不久，一款名为Manus的中国AI产品又于近期迅速爆红。越来越聪明的AI已经能够规划并执行更加复杂的任务，但同时也加速了科技伦理、数据安全、合规等方面的风险日益显现。
在2025年的全国两会上，知名演员靳东提交了一份备受瞩目的提案，呼吁对AI换脸技术进行严格监管。靳东在提案中指出，AI换脸技术的滥用已经从一个单纯的娱乐现象，演变为了涉及诈骗、隐私侵犯等严重社会问题的工具。
日前，全国人大代表雷军公布了其准备的建议案。雷军提到，“AI换脸拟声”不当滥用造成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为。基于此，他提出加快单行法立法进程、压实平台企业等各方的责任和义务等建议。
随着AI技术发展，AI换脸图片和视频成为热门现象，娱乐之余，让人真假莫辨，风险与困扰也不少。据《法治日报》报道，有人在互联网上随意兜售AI合成软件，“手把手教学”，使得制作生成AI“克隆人”视频的技术成了一门生意。
极目新闻记者 刘毅3月5日，在全国政协小组讨论会上，全国政协委员演员靳东提出关于AI技术和网络平台的立法问题建议。“一些喜欢我的影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的一个规则。”极目新闻记者注意到，多位明星都曾成为AI换脸的受害者。
来源：北京商报 “活跃在巴黎时尚秀场上的明星居然也开始带货了”“杨幂、刘亦菲竟然卖起了减肥茶”，消费者在直播间里看得一头雾水，但却因“眼见为实”屡屡疯狂下单，被骗了还浑然不知。更有甚者，打着“包教包会”的旗号当起了职业培训师。“培训费用”从29.
