事发后,也有不少人在社交媒体上发声,表示自己“被换脸了”。新浪科技发现,如今在小红书、闲鱼、B站等平台,利用AI美女视频教程吸引用户,号称“流行赛道,5天破万粉,日入四位数”的教程,成为行业灰产的温床。
随着人工智能技术的发展,一些不法分子开始利用“AI换脸”实施网络诈骗。南京一家人工智能技术专业团队负责人介绍,“AI换脸”几乎可一键实现。如果想要生成一个相似度较高或质量较好的模型,一般需要1分钟左右的视频,音色的模仿也仅需1分钟左右的音频素材。
(央视财经《第一时间》)随着人工智能软件普及,“AI换脸”“AI合成照片、视频”等技术越来越多地出现在网络里,“AI”造假花样越来越多。北京警方接到报案称,有人在境外的网站上发广告,只需一张日常生活照片,就可以完成“一键去除衣服”的效果。
如今,“AI(人工智能)换脸”图片和视频成为热门现象。娱乐之余,让人真假莫辨,风险与困扰也不少。记者调查发现,屡被曝光的“AI换脸”背后,从传播到制作再到后端环节,几乎都藏着生意。当前,包括网络平台、通信公司在内,已有一些技术和措施识别“换脸”,但也面临着“矛与盾”的考验。
记者调查AI换脸拟声技术使用乱象“骗子来电,声音容貌和我家人一模一样”“妈,8000元不够,给我转1.5万元吧。”一位母亲正和女儿视频聊天,听着在外地上学的女儿在视频里撒娇抱怨“生活费不够用了”,她心疼不已打算立刻给孩子转账。就在这时,家门打开了,她的“真女儿”走了进来。
(央视财经《天下财经》)近年来,随着人工智能技术的进步,一些不法分子开始利用AI技术融合他人的面孔和声音,制成非常逼真的合成图像实施诈骗。“AI换脸”背后的技术原理是什么?“AI换脸”后到底能有多逼真?
连日来,知名模特叶凯薇被人利用AI换脸制作淫秽视频传播一事持续引发热议,也再次让AI换脸滥用引发的违法侵权行为受到关注。大皖新闻记者探访体验发现,网上能轻松找到相关应用软件,制作AI换脸视频,电商平台也有商家售卖此类软件,甚至宣称能做到“100%逼真”。
原标题:打击AI换脸诈骗 技术力量当有更大作为我们常说“眼见为实”,但在AI时代,肉眼所看见的也不一定是真相。一些不法分子利用“AI换脸”技术实施诈骗,已成为一种新型骗局。一张“肖像照片”、一段“貌似熟人的视频”,都可能被不法分子利用作为诈骗的手段和工具。