近日，知名传染病学专家张文宏被无良商家通过AI换脸、合成人声等手段，用于直播推销某个牌子的蛋白棒。张文宏多次向平台投诉但屡禁不绝，也考虑求助警方，但对方看不见、摸不着，经常更换账号，很难找到准确的报警对象，于是只好作罢。
“我一直关注网络安全问题。从两高报告中的数据看到打击这类犯罪取得了显著成效。”在今天上午举行的上海代表团全体会议上，全国人大代表、东浩兰生集团上海工业商务展览有限公司智慧能源展部经理、工会副主席陈达说，网络直播和网络社交平台的普及，有效推动消费、创造就业岗位、并助力企业发展。
如今，从智能家居的语音助手到自动驾驶汽车，从高效能的数据分析到医疗领域的精准诊断，AI正以前所未有的方式改变着世界。然而，随着AI技术的不断发展和应用，其双刃剑的特性也逐渐显现。其中，深度伪造技术就带来了不小的隐患。
什么？“张文宏”开始带货了？最近有网友向媒体发来一段视频询问“张文宏是不是带货了？”还在卖一种蛋白棒，家里的老人信以为真已经下单，还转发了很多群。该视频系AI合成记者核实发现，这个账号名为“般画234”。在视频中，“张文宏”反复介绍一种产品，口型是他的，声音也是他的。
最近，有网友询问“张文宏是不是带货了”。根据网友提供的一段视频显示，“张文宏”在卖一种蛋白棒，家里的老人信以为真已经下单，还转发了很多群。据报道，有媒体记者核实发现，这个账号名为“般画234”。在视频中，“张文宏”反复介绍一种产品，口型是他的，声音也是他的。
齐鲁晚报·齐鲁壹点 刘志坤 岳致呈 实习生 王心铭AI换脸技术诞生之初，人们将自己的脸“移植”到影视角色、明星身上进行娱乐。如今这一技术却从给大众带来欢乐的娱乐工具，沦为了诈骗、侵权，尤其是直播带货骗局的“新型作案工具”。“已经跟直接录制人像视频没什么区别了。
金发碧眼美女，一口流利的中文谈论婚姻和中国话题，仿佛成了流量密码。“我们国家生产的许多产品都是中国制造，中国有五千年的历史，我对这个国家的热爱深厚。”屏幕上，一个所谓“俄罗斯美女”侃侃而谈，而这只是新京报贝壳财经记者以6元价格买到的“换脸视频”。
来源：环球网 【环球网科技报道 记者 郑湘琪】“我正躺在病床上输液呢，能去我橱窗买个东西么？”“立春养生啊，最应该吃这些，包治百病……”短视频平台上，这样的情景屡见不鲜。然而，仔细观察就会发现，部分主播的表情与动作略显生硬，口型与声音时有不匹配，甚至还有些塑料感。
深夜，直播间内连续讲解了数十小时的主播，依旧精神抖擞，滔滔不绝地推荐产品、介绍产品特性，还时不时地与观众互动。如果不是屏幕角落的一行小字，很难发现不知疲倦的主播实际是数字人。据新华社报道，近期，“数字人带货”概念再度火爆，不少头部平台纷纷推出数字人主播。
