大皖新闻讯连日来,知名模特叶凯薇被人利用AI换脸制作淫秽视频传播一事持续引发热议,也再次让AI换脸滥用引发的违法侵权行为受到关注。大皖新闻记者探访体验发现,网上能轻松找到相关应用软件,制作AI换脸视频,电商平台也有商家售卖此类软件,甚至宣称能做到“100%逼真”。
每经记者:宋美璐 每经编辑:张海妮福州某科技公司法定代表人9分钟被AI换脸骗430万元的风波刚过,又有安徽何先生9秒被换脸骗走245万元。另一边,直播间中,换上杨幂、迪丽热巴等明星脸的主播出现在直播间带货,让观众真假难辨。
“现有法律没有针对AI技术应用的详细规定,需要法院在个案中对相关问题进行探索。法官需要理解AI技术的原理和影响,以便准确认定侵权事实和责任。如何鉴定AI合成视频的真实性以及确认侵权行为的证据,是该类案件中法律适用的难点。
只需3秒语音,就能克隆你的声音;上传一张照片,就能生成动态视频。这不是科幻电影,而是正在发生的真实事件。近日,#靳东两会建议AI换脸立法#的话题冲上热搜第一。此前,雷军提出的“加强‘AI换脸拟声’违法侵权重灾区治理”建议,同样受到了广泛关注。
成都商报-红星新闻 8月12日,正在上班的成都市民张先生收到了一条QQ好友申请。没想太多,张先生通过了这位陌生人,很快对方给他发来了一段不雅视频以及几张不雅照片,照片和视频中的“男主角”就是张先生本人。对方以此为要挟试图勒索张先生1万元。
南都讯 记者赵青 通讯员曹钰 陈芊 谭静宜伴随着人工智能的快速发展,AI换脸、AIGC创作、虚拟数字人等前沿技术应用向当前司法提出新挑战。12月4日“国家宪法日”到来之际,南都记者聚焦广州互联网法院审理的典型案例,明晰AI大模型等新兴领域权利形态的法律属性,普及法律知识。
近年来,随着科学技术不断发展,通过AI技术进行图像、视频、音频的深度合成的情况也逐渐增多。在大部分情况下,网友只要在某些提供“AI换脸”服务的平台上,提交自己的照片,便可以替换特定视频段落中的人物,生成包含自己的影视片段或者与一些明星及网红的脸部形象替换。
“AI换脸”技术被滥用的新闻近日登上热搜。除了被应用于电信诈骗,“AI换脸”还常被用于影视剧二次创作、趣味恶搞小视频,甚至淫秽色情影像的合成中,而在网络上有商家提供各类“换脸服务”。律师指出,从娱乐“玩梗”到违法犯罪,藏在“面具”背后的用户若对该技术不当使用,会承担多项法律责任。
央视新闻客户端 明星现身、专家卖药……一张图片、一段声音,就能生成虚假视频,今年两会期间,雷军等受害者的回应,让AI伪造侵权再次成为热点。换脸拟声合成视频 AI伪造何时休?全国人大代表 雷军:有网友说去年国庆放了7天假,8天被我骂醒。