前不久，内蒙古包头警方就曾通报，有骗子利用AI换脸和拟声技术佯装熟人实施诈骗，福州市某公司法人代表郭先生10分钟内就被骗走430万元。另一起发生在安徽安庆经济开发区的案件中，诈骗分子仅使用一段9秒钟的AI换脸视频，就从受害人处骗走了245万元。这两起典型案例引发了广泛关注和讨论。
如何预防ai换脸诈骗？会紧急立法，普通人必看保命指南。现状有多可怕？雷军亲自爆料，骗子用他的ai假脸直播卖假货、假声音骂人，普通人也遭殃。姑娘拒绝追求，被恶搞成黄瑶视频疯传，差点厮杀。国家出手整治，重罚制作传播ai黄瑶直接判刑。
原标题：给“AI造”加标识，应对AI作假的有效之举近日，国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），自2025年9月1日起施行，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》也将同步实施。
近日，一些短视频平台涌现了大量某知名企业家吐槽的视频。在视频中，该企业家对堵车、调休、游戏等热门话题进行调侃，甚至还有不雅词汇穿插其间，引发热议。事实上，这是由网友利用AI软件采集该企业家原音生成的配音，但逼真的效果让不少人信以为真。
近年来，随着人脸识别技术的广泛应用和人工智能技术的进步，一些不法分子开始利用AI技术融合他人面孔和声音、制造逼真的合成图像来实施新型网络诈骗，类似骗局手段多样、门槛低、辨别难度大，经常让人防不胜防，短时间内造成较大损失。从形象到声音，如何警惕AI“深度造假”？
来源：【中安在线】AI诈骗又现。近日，浙江宁波的潘女士接到了一个冒充其孙子的电话，对方称在学校将同学碰倒，致使同学摔下楼梯受伤，需赔偿医疗费7万元，并以“学校老师答应帮忙私下处理此事，否则将被学校处分”为由，让其保密。
今年以来，关于“AI换脸拟声”的新闻频频见诸媒体。近日，北京市老龄协会、北京律维银龄研究与服务中心发布专项报告，提醒老年人注意防范AI换脸诈骗。报告显示，1月1日至3月17日，北京市老龄协会、北京律维银龄研究与服务中心监测到关于“AI换脸/造假”相关舆情共计45432篇/条。
近日，国家网信办公布了《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《征求意见稿》），并面向社会公开征求意见，意见反馈截止时间为10月14日。《征求意见稿》提出，人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。
警惕AI“深度伪造”接陌生电话时建议先“变声”专家：人体生物特征易被“移花接木” 电话、视频聊天时需加强防范与甄别“以前我们说‘眼见为实’，但随着技术发展，不法分子的技术手段也在更新，造出‘假人说假话’，有时让人防不胜防，必须要注意鉴别和防范。
点开直播间乍一看，卖货的竟是当红女星。再定睛一看，“明星”其实是使用人工智能（AI）实时换脸技术的普通主播。他们冒充明星艺人，只为增加卖点，助力卖货……近期，“AI换脸”的应用范围越来越广，但存在滥用之嫌，甚至有人利用AI换脸实施犯罪，例如伪造不雅视频、换脸诈骗等。
接到“弟弟”的借钱电话后转账数万元，被屏幕对面的“好友”骗走数百万元，“多人视频会议”中竟然只有自己是真人……近期，全国各地接连曝光多起电信诈骗案件，其共同特点是诈骗分子利用AI合成技术“换脸”“换声”，这种深度伪造导致受害者“耳听为虚”“眼见也非实”。
来源：证券日报近日，美国OpenAI公司发布的首个视频生成模型“Sora”给国内外信息产业带来震撼影响，同时也引发了人们对生成式AI技术被用于深度伪造内容，可能加剧错误和虚假信息传播的担忧。在生成式AI技术迅速发展的当下，伪造视频、图片、语音用于不法目的的行为时有报道。
近年来，随着人工智能技术的进步，一些不法分子开始利用AI技术融合他人面孔和声音，制造非常逼真的合成图像来实施新型网络诈骗，这类骗局常常会在短时间内给被害人造成较大损失。我们应该如何看清这类AI“深度造假”？辨别“AI换脸”有没有什么好方法？
作者：刘冠婵 王阁近日，某知名医学专家在网络视频中“被带货”，实则为AI（人工智能）合成视频，引发公众对AI造假风险的担忧。生成式人工智能是当前国内外最热门的AI技术形态，因其强大的内容生产功能和强交互性而受到广大用户欢迎。
据央视新闻消息，AI技术，也就是人工智能，近年来发展迅速，有关专家介绍，AI的主要特征之一就是能自主深度学习，比如说，可以对现实生活中的人物表情和动作细节进行深度学习并且进行模仿。一些不法分子因此盯上了这项新技术，他们利用“AI换脸”冒充受害人的亲戚和朋友实施诈骗。
