随着人工智能技术的发展，一些不法分子开始利用“AI换脸”实施网络诈骗。南京一家人工智能技术专业团队负责人介绍，“AI换脸”几乎可一键实现。如果想要生成一个相似度较高或质量较好的模型，一般需要1分钟左右的视频，音色的模仿也仅需1分钟左右的音频素材。
参加多人视频会议，结果只有自己是真人，这事听上去似乎匪夷所思，却真实地发生了。近期，香港警方披露了一起多人“AI换脸”诈骗案，涉案金额高达2亿港元。除了此次香港AI“多人换脸”视频诈骗案，香港近期还出现了其他“AI换脸”行骗隐患。
用户点开“某颜”小程序，通过“AI换脸”便能一键生成自己的古风汉服形象，观看广告后还可免费保存到手机相册。谁知，部分模版素材竟是侵权“搬运”来的盗版？近日，上海市嘉定区人民法院（以下简称嘉定区人民法院）审结一起因提供“AI换脸”服务引发的著作权侵权纠纷案。
AI技术，也就是人工智能，近年来发展迅速，有关专家介绍，AI的主要特征之一就是能自主深度学习，比如说，可以对现实生活中的人物表情和动作细节进行深度学习并且进行模仿。一些不法分子因此盯上了这项新技术，他们利用“AI换脸”冒充受害人的亲戚和朋友实施诈骗。
只需3秒语音，就能克隆你的声音；上传一张照片，就能生成动态视频。这不是科幻电影，而是正在发生的真实事件。近日，#靳东两会建议AI换脸立法#的话题冲上热搜第一。此前，雷军提出的“加强‘AI换脸拟声’违法侵权重灾区治理”建议，同样受到了广泛关注。
