如何快速识别AI换脸变声诈骗?深度鉴伪5秒让AI换脸诈骗无处遁形;如何为“一老一小”构建安全通讯环境?AI技术强力反制电信诈骗。9月8日,2024年国家网络安全宣传周在南沙正式拉开帷幕,网络安全博览会也同步举行。
随着人工智能技术的快速发展,相关的应用正在进入我们生活的方方面面。然而,这也给个人信息保护带来了新的挑战。在8日开幕的2024年国家网络安全宣传周上,关于AI换脸、换声等对个人隐私侵害的话题成为大家关注的焦点。
只需3秒语音,就能克隆你的声音;上传一张照片,就能生成动态视频。这不是科幻电影,而是正在发生的真实事件。近日,#靳东两会建议AI换脸立法#的话题冲上热搜第一。此前,雷军提出的“加强‘AI换脸拟声’违法侵权重灾区治理”建议,同样受到了广泛关注。
男子刘某某为牟利,应他人要求改装手机,利用AI换脸技术帮助网约车司机避开平台人脸验证,实现随意注册和接单。9月25日,记者从上海市静安区人民检察院(以下简称静安区检察院)获悉,近日,该院以涉嫌提供侵入、非法控制计算机信息系统程序、工具罪对被告人刘某某提起公诉。
来源:环球网 案例背景:在数字化浪潮汹涌澎湃的当下,人工智能技术如一把双刃剑,在为人们生活增添诸多乐趣与便利的同时,也暗藏隐患。AI换脸技术便是其中典型代表,其在娱乐领域的应用本是创新之举,却因部分不良商家的滥用,引发了令人担忧的法律纠纷,严重损害了消费者权益。
来源:中央广播电视总台中国之声 近日,广州互联网法院就审结了一起由“AI换脸”视频合成模板引发的侵权纠纷。一位知名短视频博主发现自己的汉服装扮视频被某科技公司擅自制成了付费“AI换脸”模板。法院审理后认定,该公司的行为侵犯了博主的肖像权。
随着人工智能技术的进步,与发展机遇一同到来的,是风险和挑战。如今,一些不法分子利用AI技术融合他人面孔和声音,从而制造逼真的虚假合成图像,用以实施新型网络诈骗等违法行为。如何看清这类AI“深度造假”行为成为时下需要关注的热点。
近期,全国接报多起利用 iPhone手机“Facetime”视频通话功能实施的诈骗案件,一时间冲上热搜。随着技术的发展,视频诈骗这种新型诈骗手段不断变化,甚至通过“AI换脸”实施诈骗。对此,警方提醒,接到可疑电话要主动进行求证。
刘德华直播间里“华仔”卖力带货,雷军的“声音”热情推荐理财产品……这些以假乱真的画面,就像AI技术打开的“潘多拉魔盒”,名人“被代言”只是揭开了乱象的冰山一角。AI换脸,虽然近期才频繁走入公众视野,但在文学影视作品中早有体现。
如今,“AI(人工智能)换脸”图片和视频成为热门现象。娱乐之余,让人真假莫辨,风险与困扰也不少。记者调查发现,屡被曝光的“AI换脸”背后,从传播到制作再到后端环节,几乎都藏着生意。当前,包括网络平台、通信公司在内,已有一些技术和措施识别“换脸”,但也面临着“矛与盾”的考验。