近年来，随着人工智能技术的进步，一些不法分子开始利用AI技术融合他人面孔和声音，制造非常逼真的合成图像来实施新型网络诈骗，这类骗局常常会在短时间内给被害人造成较大损失。我们应该如何看清这类AI“深度造假”？辨别“AI换脸”有没有什么好方法？
某天，你的一位熟人发来借钱的请求，随后对方打来了视频。视频接通后你确认长相和声音就是熟人“本人”，你没有怀疑把钱转了过去。没过多久，你发现自己被骗了，刚才视频里那位“熟人”并不是真的他。这可不是鬼故事，而是已经发生在多位受害者身上的真实案例。资料图。
实习生 卢安宜 中青报·中青网记者 夏瑾随着人工智能技术的快速发展，AI聊天工具逐渐成为许多人寻求情感支持和心理安慰的新途径。视觉中国供图“一直以来我以为自己是一个不会撒娇、没有分享欲、一点都不可爱的人，不管是谈恋爱还是交朋友，我好像很少有任性的时候。
界面新闻记者 | 吕雅萱界面新闻编辑 | 翟瑞民接通微信视频电话，你是否会怀疑屏幕对面说话的“好友”实则是个AI换脸的陌生人？2023年5月8日，内蒙古自治区包头市公安局微信公众号“平安包头”发布了一起使用“AI换脸技术”进行电信诈骗的案件。
关于印发《人工智能生成合成内容标识办法》的通知国信办通字〔2025〕2号各省、自治区、直辖市互联网信息办公室、通信管理局、公安厅（局）、广播电视局，新疆生产建设兵团互联网信息办公室、工业和信息化局、公安局、文化体育广电和旅游局：为了促进人工智能健康发展，规范人工智能生成合成内容标
作者：万周今年4月20日，福州市某知名企业法定代表人郭先生意外接到一位“至交好友”的视频通话信息。聊天中，“至交好友”告诉郭先生，他的朋友在外地投标，需要430万元保证金，且需要对公账户过账，所以想借用其公司的账户走一下账。
近日，知名模特叶凯薇发视频称，其被人利用AI换脸制作淫秽视频，并大量传播，造成严重困扰，目前已经收集证据并报警。有媒体从警方处获悉，经鉴定，该视频确系拼凑伪造，正在进一步调查中。利用AI换脸制作淫秽视频，该担何责？AI换脸乱象频现如何治理？
福州法律专家：为人工智能套上法治缰绳“雷军回应‘国庆7天被AI雷军骂了8天’”“靳东两会建议AI换脸立法”……今年全国两会期间，“AI换脸拟声”技术的滥用问题引发代表委员关注，相关话题频频登上热搜，也引发福州市民热议。手机应用商店有许多“AI换脸”App（页面截图）。
据央视新闻消息，AI技术，也就是人工智能，近年来发展迅速，有关专家介绍，AI的主要特征之一就是能自主深度学习，比如说，可以对现实生活中的人物表情和动作细节进行深度学习并且进行模仿。一些不法分子因此盯上了这项新技术，他们利用“AI换脸”冒充受害人的亲戚和朋友实施诈骗。
12月13日上午，山东省人民政府新闻办公室举行新闻发布会，邀请山东省委政法委负责同志等介绍山东打击治理电信网络违法犯罪，守护人民群众合法权益情况。据统计，今年以来，山东侦破电诈及关联犯罪案件1.55万起，抓获犯罪嫌疑人3.08万名，避免群众损失28.
央广网北京12月14日消息（记者 黄昂瑾）“AI换脸”对于不少互联网用户来说并不陌生，仅需上传照片，就能在线体验百变换装、性别转换，乃至预测和伴侣未来孩子的长相。分享这类“换脸”后的图片或视频，成为一种亲友间的线上社交娱乐。
来源：平安奉节 5月22日话题#AI诈骗正在爆发#冲上微博热搜 据“平安包头”微信公众号消息，近日，包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。
人工智能（AI）生成合成内容的逼真程度已经让普通人难以辨别。多方人士曾提议，加快规范AI生成合成内容。“内容标识”是目前国际上较为通用的做法。日前，国家网信办起草的《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《办法》），面向社会公开征求意见。
最近，有些商家和自媒体博主盯上AI这个热词，想利用它做点生意，他们推出了一些收费软件，号称能用人工智能算出彩票的下一期中奖号码。不少消费者被引导付费，交了钱之后却一次都没中过奖。“AI预测彩票号码”到底是黑科技还是新型骗局呢？所谓的“AI预测”背后又藏着怎样的套路？
本报记者 屈信明近年来，多个行业创新人工智能技术应用场景，银行智能机器人、虚拟主持人等为社会公众提供了越来越多便捷、智能的服务。然而，也有不法分子通过“AI拟声”“AI换脸”，融合他人面孔和声音制作虚假图像和音视频，仿冒他人身份实施诱骗受害者转账等犯罪行为。
记者14日获悉，国家网信办、工业和信息化部、公安部、国家广播电视总局制定了《人工智能生成合成内容标识办法》。办法共14条，将于今年9月1日起施行。人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。
