视频里那张脸正对着镜头，几乎不动，脸上的表情和平常没什么不一样。7秒视频通话后，济南人方杨宥就给对方指定账户转了30万。等到报了警，他才知道，原来视频里那张熟悉的脸是“假”的，屏幕另一端根本不是自己的亲戚，而是诈骗人员利用AI技术合成的影像视频。
文/羊城晚报全媒体记者 董柳和迪丽热巴“接吻”、与刘亦菲“深情对视”、长得跟马斯克“一模一样”、乘地铁的照片被“一键脱衣”……AI“换脸”“换装”让人“于无声处听惊雷”，屡屡冲上热搜。“AI‘换脸’虽然是一种技术上的进步，但是在使用这种合成技术时容易触犯法律，应谨慎对待。
原标题：多个城市出台扶持人工智能的相关政策 AI概念股持续火热（引题）“AI换脸”技术使用风险需警惕（主题）广州日报全媒体记者 文静 张露广经观察受政策与新概念影响，AI板块连日来上涨。6月1日，据同花顺数据显示，截至收盘，人工智能板块涨超1.4%，AIGC概念板块涨超3%。
近日，知名传染病学专家张文宏直播卖蛋白棒的视频，让不少老人信以为真，疯狂买单，橱窗商品已售出上千件。但最终发现这是一起利用AI换脸技术合成的侵权视频。张文宏等名人成为被AI技术假冒的“躺枪者”，并非个案。
看到这个短视频，我再也不相信视频通话的真实性了，其中画面中的女儿给妈妈打电话要钱，口口声声的说“我最爱你了妈妈，快给我转钱”，这位亲妈妈问八千够不够，再宠爱女儿也没有转这么多的，谁知道视频中女儿还不满足的说“一万五吧”，当这位母亲正准备输入密码的时候门铃却响了，随急这位母亲去开门了，可是当看到门口的人是谁的时候，这位母亲面脸的惊愕。
每经记者：宋美璐 每经编辑：张海妮福州某科技公司法定代表人9分钟被AI换脸骗430万元的风波刚过，又有安徽何先生9秒被换脸骗走245万元。另一边，直播间中，换上杨幂、迪丽热巴等明星脸的主播出现在直播间带货，让观众真假难辨。
4月26日，一名拥有百万粉丝的网红博主称自己的“脸被偷”，有人用AI换脸软件，制作她的不雅视频。此前，“特效合成师”和迪丽热巴“接吻”、女子乘地铁照片被“一键脱衣”……不仅是网红、明星，普通人也难逃“换脸”“换装”，事件频频冲上热搜，引发关注。
一位老人接到电话，对方自称是其战友，说自己因生病想借钱。老人熟悉这位战友的声音，先后汇款2000元、8000元到对方银行账户。没想到，钱刚到对方账户，“战友”就消失了，老人这才发现自己被骗了……近日，一则“声音合成”骗局登上了热搜。
□张婷（西南科技大学）近日，网红特效师洪某通过AI换脸技术、利用电脑后期制作软件，合成了自己与某知名女明星的接吻视频后在网络上公开发布，受到众多网友关注，引发热议。视频发出后不久，洪某在社交平台上表示自己被该女明星粉丝抓伤“破相”，事件再次引发热议。
金发碧眼美女，一口流利的中文谈论婚姻和中国话题，仿佛成了流量密码。“我们国家生产的许多产品都是中国制造，中国有五千年的历史，我对这个国家的热爱深厚。”屏幕上，一个所谓“俄罗斯美女”侃侃而谈，而这只是新京报贝壳财经记者以6元价格买到的“换脸视频”。
每经记者：杜蔚 孙宇婷 黑灰产正在兜售杨幂、迪丽热巴、刘亦菲等明星或者政治人物、企业家的AI脸，只需要1280元。《每日经济新闻》记者（简称每经记者或记者）调查发现，AI脸在实时视频通话和直播中都能“瞒天过海”，微信、抖音、快手、小红书等平台也难以识别。
随着AI技术的发展，骗子通过骚扰电话录音提取某个人声音进行合成，再使用AI换脸技术后，就能够完全伪装成另一个人，轻松通过发语音、发视频等传统防诈骗验证方式。警方提醒，遇到熟人借钱等情况，应多渠道进行身份确认。
