“AI换脸”新型诈骗频发。添加好友后，“曾某某”发起短暂的视频通话，利用“Al 换脸”技术伪造了其本人正在开会的假象，待挂断视频通话后，对李先生表示其正在开会，不方便通话，并称有重要事情要交代，让李先生添加其QQ号。
人工智能（AI）生成合成内容的逼真程度已经让普通人难以辨别。多方人士曾提议，加快规范AI生成合成内容。“内容标识”是目前国际上较为通用的做法。日前，国家网信办起草的《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《办法》），面向社会公开征求意见。
“AI换脸”新型诈骗频发。添加好友后，“曾某某”发起短暂的视频通话，利用“Al 换脸”技术伪造了其本人正在开会的假象，待挂断视频通话后，对李先生表示其正在开会，不方便通话，并称有重要事情要交代，让李先生添加其QQ号。
今年以来，ChatGPT和GPT-4等技术的应用，成为了信息科技领域的热点，引起公众对AI技术的广泛关注和热情。但伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频，进行诈骗、诽谤的违法行为屡见不鲜。
“现有法律没有针对AI技术应用的详细规定，需要法院在个案中对相关问题进行探索。法官需要理解AI技术的原理和影响，以便准确认定侵权事实和责任。如何鉴定AI合成视频的真实性以及确认侵权行为的证据，是该类案件中法律适用的难点。
随着人工智能技术的进步，与发展机遇一同到来的，是风险和挑战。如今，一些不法分子利用AI技术融合他人面孔和声音，从而制造逼真的虚假合成图像，用以实施新型网络诈骗等违法行为。如何看清这类AI“深度造假”行为成为时下需要关注的热点。
随着人工智能迅猛发展，AI换脸的技术门槛越来越低，相关内容频频出现在网络平台。最近，这项技术被诈骗团伙盯上了，福州的郭先生被骗子利用AI换脸的方式骗走了四百多万。“AI诈骗正在全国爆发”的话题一度冲上了热搜第一。
“一键换脸，秒变视频主角”现如今“AI换脸”正在走红网络受到无数年轻人的追捧只需一张照片，马上改头换面古装、旗袍、武侠、时尚……各式风格造型，任君随意挑选玩家们大呼过瘾但与此同时“AI换脸”也可能伴随法律风险和侵权纠纷近日，上海市金山区人民法院审结了一起因“AI换脸”APP违法使
