如今，“AI（人工智能）换脸”图片和视频成为热门现象。娱乐之余，让人真假莫辨，风险与困扰也不少。记者调查发现，屡被曝光的“AI换脸”背后，从传播到制作再到后端环节，几乎都藏着生意。当前，包括网络平台、通信公司在内，已有一些技术和措施识别“换脸”，但也面临着“矛与盾”的考验。
来源：环球网 案例背景：在数字化浪潮汹涌澎湃的当下，人工智能技术如一把双刃剑，在为人们生活增添诸多乐趣与便利的同时，也暗藏隐患。AI换脸技术便是其中典型代表，其在娱乐领域的应用本是创新之举，却因部分不良商家的滥用，引发了令人担忧的法律纠纷，严重损害了消费者权益。
（央视财经《第一时间》）今年“3·15”晚会曝光了“AI换脸”类诈骗的案例。受害人看到了亲戚朋友熟悉的样貌而上当，这些以假乱真的视频，都是通过“AI换脸”技术伪造的。记者近日采访了一家网络安全企业，他们协助公安部门破获了多起利用“AI换脸”伪造色情视频进行敲诈勒索的案件。
事发后，也有不少人在社交媒体上发声，表示自己“被换脸了”。新浪科技发现，如今在小红书、闲鱼、B站等平台，利用AI美女视频教程吸引用户，号称“流行赛道，5天破万粉，日入四位数”的教程，成为行业灰产的温床。
（央视财经《第一时间》）随着人工智能软件普及，“AI换脸”“AI合成照片、视频”等技术越来越多地出现在网络里，“AI”造假花样越来越多。北京警方接到报案称，有人在境外的网站上发广告，只需一张日常生活照片，就可以完成“一键去除衣服”的效果。
极目新闻 屈旌近日，知名模特叶凯薇发视频公开控诉，称其被人利用AI换脸制作淫秽视频，并大量传播，造成严重困扰，目前已经收集证据并报警，引发关注。记者从警方处获悉，经鉴定，该视频确系拼凑伪造，正在进一步调查中。
全国超20万网友收到”熟人借贷”视频电话，其中包头张女士被骗430万元！警方调查发现，这些诈骗背后藏着一条AI换脸黑产链——仅需500元就能伪造明星不雅视频，甚至能实时直播换脸。【震惊】黑产交易群暗语曝光：“女神试看群”竟是换脸视频窝点！
