参加多人视频会议结果只有自己是真人这事听上去似乎匪夷所思却真实地发生了近期，香港警方披露了一起多人“AI换脸”诈骗案涉案金额高达2亿港元在这起案件中，一家跨国公司香港分部的职员受邀参加总部首席财务官发起的“多人视频会议”，并按照要求先后转账多次，将2亿港元分别转账15次，转到5个
人工智能深度合成技术的快速发展，推动了“AI换脸拟声”在影视、广告、社交等领域广泛兴起，同时，“AI换脸拟声”的不当滥用也引发了诸多关注。今年全国两会，“靳东两会建议AI换脸立法”登上热搜，雷军接受记者采访时也表示，“我本人也是主要的受害者，呼吁尽快立法重点整治。
“AI换脸拟声”乱象频现 如何治理？福州法律专家：为人工智能套上法治缰绳“雷军回应‘国庆7天被AI雷军骂了8天’”“靳东两会建议AI换脸立法”……今年全国两会期间，“AI换脸拟声”技术的滥用问题引发代表委员关注，相关话题频频登上热搜，也引发福州市民热议。
界面新闻记者 | 于浩界面新闻编辑 | 近日，一则利用AI换脸及拟声技术实施诈骗的案例引发关注。根据警方通报内容显示，诈骗分子通过微信视频联系到受害者，利用上述技术佯装受害者好友，并以“在外地竞标需要保证金”为由要求受害者打款。
央广网北京10月13日消息 当前，AI技术的广泛应用为社会公众提供了个性化、智能化的信息服务，也给网络诈骗带来可乘之机。如不法分子通过面部替换、语音合成等方式，制作虚假图像、音频、视频，仿冒他人身份实施诈骗，侵害消费者合法权益。
“AI换脸拟声”、“共享屏幕”、虚假网络投资理财……近年来，新型电信网络诈骗频发，国家金融监督管理总局近日发布防范新型电信网络诈骗风险提示，提醒广大群众警惕骗局，增强风险防范意识和识别能力。如今新型电信网络诈骗主要有哪些类型？如何守好自己的“钱袋子”？
两会期间，全国人大代表雷军、全国政协委员靳东等呼吁立法整治AI“换脸拟声”的话题引发广泛关注。2024年国庆长假期间，曾经出现大量“雷军AI配音”的恶搞视频，迫使雷军本人不得不专门发视频，呼吁大家不要再恶搞。
□近期频发的新型电信网络诈骗有“共享屏幕”类诈骗、“AI换脸拟声”类诈骗、虚假网络投资理财类诈骗等。不法分子通过诱导个人投资、转账汇款，从而实现诈骗目的。□个人要警惕诈骗短信和钓鱼网站，审慎稳妥使用自身面部、指纹以及密码等重要信息。
日前，全国人大代表雷军公布了其准备的建议案。雷军提到，“AI换脸拟声”不当滥用造成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为。基于此，他提出加快单行法立法进程、压实平台企业等各方的责任和义务等建议。
近年来，新一代生成式人工智能（AI）以颠覆性的创新和应用为经济社会发展带来新动能，同时也带来一些新问题。例如，“AI换脸拟声”侵权现象时有发生，引发社会广泛关注。今年的政府工作报告提出，持续推进 “人工智能+”行动。
前不久，内蒙古包头警方就曾通报，有骗子利用AI换脸和拟声技术佯装熟人实施诈骗，福州市某公司法人代表郭先生10分钟内就被骗走430万元。另一起发生在安徽安庆经济开发区的案件中，诈骗分子仅使用一段9秒钟的AI换脸视频，就从受害人处骗走了245万元。这两起典型案例引发了广泛关注和讨论。
近年来，多个行业创新人工智能技术应用场景，银行智能机器人、虚拟主持人等为社会公众提供了越来越多便捷、智能的服务。然而，也有不法分子通过“AI拟声”“AI换脸”，融合他人面孔和声音制作虚假图像和音视频，仿冒他人身份实施诱骗受害者转账等犯罪行为。
近日，包头警方发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。
