近日,韩国出现多起利用AI换脸伪造女性色情露骨图像的犯罪案,在这背后,犯罪者用深度伪造技术(Deepfake)合成色情照片和视频,并在通信软件Telegram的群聊中传播,参与者多达22万人,引发韩国民众恐慌。
21世纪经济报道记者 肖潇 北京报道近日,韩国国会通过了一项性犯罪的修正法案——任何制作、持有、保存深度伪造色情视频的行为,都可被定为刑事犯罪,并面临最高七年监禁或者5000万韩元的罚款(约26万元人民币),目前在等待总统最终签署。
“AI换脸”技术被滥用的新闻近日登上热搜。除了被应用于电信诈骗,“AI换脸”还常被用于影视剧二次创作、趣味恶搞小视频,甚至淫秽色情影像的合成中,而在网络上有商家提供各类“换脸服务”。律师指出,从娱乐“玩梗”到违法犯罪,藏在“面具”背后的用户若对该技术不当使用,会承担多项法律责任。
韩国再现“N号房”丑闻,这次的关键词是“深度伪造犯罪”。所谓“深度伪造犯罪”,即使用人工智能技术生成逼真的虚假内容,该技术的泛滥使得此次韩国女性的受害者数量以及相关色情图片视频的传播力度较之过去更上了一个台阶,受害者不得不在包括中国微博在内的各国社交平台发声,呼吁更多人关注。
6月25日,全国人大常委会法制工作委员会举行记者会,针对有关利用“AI换脸”技术进行视频合成、进而实施诈骗的问题,发言人臧铁伟指出:“万变不离其宗”,通过“AI换脸”进行视频合成、实施诈骗的行为,是利用新技术进行的诈骗,与传统的诈骗行为在本质上没有区别。
来源:中央广电总台中国之声 人工智能(AI)手段为视频中的人物“换脸”,这项技术已经发展到可以实时动态修改直播画面。最近,网上出现了一些“换脸直播”的教程,声称通过相关软件换上一张明星艺人的脸,可以更好地直播带货。
近年来,随着科学技术不断发展,通过AI技术进行图像、视频、音频的深度合成的情况也逐渐增多。在大部分情况下,网友只要在某些提供“AI换脸”服务的平台上,提交自己的照片,便可以替换特定视频段落中的人物,生成包含自己的影视片段或者与一些明星及网红的脸部形象替换。
中新网北京3月27日电 (记者 袁秀月)近日,一网红特效合成师利用电脑后期制作,把热门剧里的男主角换成自己的脸,在网上引起热议。其中,该网红特效合成师合成与女星的亲吻视频,更是引发争议。该特效合成师在社交平台表示,自己的脸因此事被粉丝抓伤“破相”。