沈 阳 郝 敏 姚 佳编者的话：近日，由人工智能生成的美国歌手泰勒·斯威夫特说一口流利的中文，以及一些中国明星说一口流利英语的视频在网络走红。随着深度学习技术取得巨大进展，“AI换脸”技术作为成果之一，已经展现出广泛的应用潜力。与此同时，其衍生出的种种风险也受到关注。
前不久，内蒙古包头警方就曾通报，有骗子利用AI换脸和拟声技术佯装熟人实施诈骗，福州市某公司法人代表郭先生10分钟内就被骗走430万元。另一起发生在安徽安庆经济开发区的案件中，诈骗分子仅使用一段9秒钟的AI换脸视频，就从受害人处骗走了245万元。这两起典型案例引发了广泛关注和讨论。
人们常说“眼见为实”AI时代眼见也不一定是真相！一些别有用心的不法分子利用AI“换脸”“拟声”技术实施诈骗已然成为一种新型骗局一个“声音很熟的电话”一段“貌似熟人的视频”都可能是不法分子的诈骗套路小伙伴们一定要谨慎，提高警惕！什么是“AI诈骗”？
参加多人视频会议结果只有自己是真人这事听上去似乎匪夷所思却真实地发生了近期，香港警方披露了一起多人 “AI换脸”诈骗案涉案金额高达2亿港元在这起案件中，一家跨国公司香港分部的职员受邀参加总部首席财务官发起的“多人视频会议”，并按照要求先后转账多次，将2亿港元分别转账15次，转到5
今年以来，ChatGPT和GPT-4等技术的应用成为信息科技领域的热点，引起公众对AI技术的广泛关注和热情。昨日，中国互联网协会发文称，伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为屡见不鲜。
央广网北京3月30日消息（记者黄玉玲）近日，广州一女子在地铁上的照片被AI“一键脱衣”，并在网上广泛传播，引发网友关注。事实上原图中该女子衣着正常，完全没有任何不妥之处，但却被有心之人用AI软件“一键脱衣”并全网散播。
新京报贝壳财经讯 3月27日，抖音安全中心发布消息称，去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
