事发后,也有不少人在社交媒体上发声,表示自己“被换脸了”。新浪科技发现,如今在小红书、闲鱼、B站等平台,利用AI美女视频教程吸引用户,号称“流行赛道,5天破万粉,日入四位数”的教程,成为行业灰产的温床。
来源:北京日报客户端 如今,“AI(人工智能)换脸”图片和视频成为热门现象。娱乐之余,让人真假莫辨,风险与困扰也不少。记者调查发现,屡被曝光的“AI换脸”背后,从传播到制作再到后端环节,几乎都藏着生意。
只需3秒语音,就能克隆你的声音;上传一张照片,就能生成动态视频。这不是科幻电影,而是正在发生的真实事件。近日,#靳东两会建议AI换脸立法#的话题冲上热搜第一。此前,雷军提出的“加强‘AI换脸拟声’违法侵权重灾区治理”建议,同样受到了广泛关注。
来源:中国青年报 近年来,“AI换脸”走红网络,一些“AI换脸”的App使用明星的图片制作换脸视频进行推广,其趣味性背后暗藏不少法律风险和侵权纠纷。4月7日,浙江杭州萧山区检察院曝光的一个“女神群”,引发关注——据了解,“AI换脸”技术的走红,让80后安徽小伙虞某嗅到了商机。
近年来,随着人工智能深度合成技术的快速发展,“换脸”“换妆”等应用软件广泛兴起,受到不少年轻人的喜爱。这类软件只需上传一张人物照片,就可以将照片中的人合成到模板中去,一键换脸、换妆,秒变视频主角。不过,这类风靡的“换脸”软件也潜藏着侵权风险。
大皖新闻讯 连日来,知名模特叶凯薇被人利用AI换脸制作淫秽视频传播一事持续引发热议,也再次让AI换脸滥用引发的违法侵权行为受到关注。大皖新闻记者探访体验发现,网上能轻松找到相关应用软件,制作AI换脸视频,电商平台也有商家售卖此类软件,甚至宣称能做到“100%逼真”。
一个侵权案例,再次让AI换脸技术引起人们的关注。据江苏广电荔枝新闻报道,南京李某是一名短视频博主,拥有几十万粉丝。她发现自己拍摄发布的一段古风汉服短视频成为某“AI视频换脸”小程序上的一款模板。用户只要上传照片,就可以把模板中李某的面容换成自己的。
“现有法律没有针对AI技术应用的详细规定,需要法院在个案中对相关问题进行探索。法官需要理解AI技术的原理和影响,以便准确认定侵权事实和责任。如何鉴定AI合成视频的真实性以及确认侵权行为的证据,是该类案件中法律适用的难点。
北京日报 | 记者 袁璐日前,全国多地警方发布了多个“AI诈骗”的典型案例,案件披露后,“AI诈骗正在全国爆发”话题一度冲上热搜第一,引发网友热议。记者调查发现,目前有不少人对外提供定制AI换脸视频,仅需正面半身照即可,成本低至数十元。
中央广播电视总台中国之声 近日,广州互联网法院就审结了一起由“AI换脸”视频合成模板引发的侵权纠纷。一位知名短视频博主发现自己的汉服装扮视频被某科技公司擅自制成了付费“AI换脸”模板。法院审理后认定,该公司的行为侵犯了博主的肖像权。
“AI换脸”技术被滥用的新闻近日登上热搜。除了被应用于电信诈骗,“AI换脸”还常被用于影视剧二次创作、趣味恶搞小视频,甚至淫秽色情影像的合成中,而在网络上有商家提供各类“换脸服务”。律师指出,从娱乐“玩梗”到违法犯罪,藏在“面具”背后的用户若对该技术不当使用,会承担多项法律责任。
来源:中央广电总台中国之声 人工智能(AI)手段为视频中的人物“换脸”,这项技术已经发展到可以实时动态修改直播画面。最近,网上出现了一些“换脸直播”的教程,声称通过相关软件换上一张明星艺人的脸,可以更好地直播带货。
极目新闻 屈旌近日,知名模特叶凯薇发视频公开控诉,称其被人利用AI换脸制作淫秽视频,并大量传播,造成严重困扰,目前已经收集证据并报警,引发关注。记者从警方处获悉,经鉴定,该视频确系拼凑伪造,正在进一步调查中。
随着人工智能技术的快速发展,相关的应用正在进入我们生活的方方面面。然而,这也给个人信息保护带来了新的挑战。在8日开幕的2024年国家网络安全宣传周上,关于AI换脸、换声等对个人隐私侵害的话题成为大家关注的焦点。
每经记者:宋美璐 每经编辑:张海妮福州某科技公司法定代表人9分钟被AI换脸骗430万元的风波刚过,又有安徽何先生9秒被换脸骗走245万元。另一边,直播间中,换上杨幂、迪丽热巴等明星脸的主播出现在直播间带货,让观众真假难辨。