换脸变声的边界待厘清，套路翻新的电诈需整治，人工智能监管趋于规范化羊城晚报全媒体记者 罗清峣带货主播AI换脸成女明星，真假难辨；B站音乐区掀起AI翻唱热潮，“AI孙燕姿”全网走红；一骗子借助AI技术冒充熟人视频聊天，十分钟诈骗430万元……近日，以深度伪造（Deepfake）为核
福州法律专家：为人工智能套上法治缰绳“雷军回应‘国庆7天被AI雷军骂了8天’”“靳东两会建议AI换脸立法”……今年全国两会期间，“AI换脸拟声”技术的滥用问题引发代表委员关注，相关话题频频登上热搜，也引发福州市民热议。手机应用商店有许多“AI换脸”App（页面截图）。
今年以来，ChatGPT和GPT-4等技术的应用，成为了信息科技领域的热点，引起公众对AI技术的广泛关注和热情。但伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频，进行诈骗、诽谤的违法行为屡见不鲜。
前不久，内蒙古包头警方就曾通报，有骗子利用AI换脸和拟声技术佯装熟人实施诈骗，福州市某公司法人代表郭先生10分钟内就被骗走430万元。另一起发生在安徽安庆经济开发区的案件中，诈骗分子仅使用一段9秒钟的AI换脸视频，就从受害人处骗走了245万元。这两起典型案例引发了广泛关注和讨论。
两会期间，全国人大代表雷军、全国政协委员靳东等呼吁立法整治AI“换脸拟声”的话题引发广泛关注。靳东呼吁立法整治AI“换脸拟声”雷军呼吁网友不要再恶搞此前，曾有一些喜欢靳东的观众，被AI换脸的“假靳东”所骗，有的甚至要到银行贷款200万元给自己的男朋友“靳东”拍戏。
本报记者 李晖 北京报道技术大爆发永远是一把双刃剑。随着生成式人工智能技术的发展和普及，技术门槛大幅降低，也为不法分子提供了机会。2023年以来，“通过AI换脸和拟声技术实施诈骗”的新型骗局频繁登上新闻头条，引发大众关注。
随着技术的不断进步AI应用场景越来越丰富“一键换脸”，和喜爱的偶像合影大叔通过AI技术秒变萝莉御姐“AI孙燕姿”刚“出道”就爆火……曾经离我们很遥远的AI如今正迅速进入大众生活需要注意的是骗子也盯上了AI技术利用它玩起了“真假美猴王”和你视频对话的可能不是本人近日包头警方发布一起
日前，全国人大代表雷军公布了其准备的建议案。雷军提到，“AI换脸拟声”不当滥用造成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为。基于此，他提出加快单行法立法进程、压实平台企业等各方的责任和义务等建议。
原标题：“AI换脸”，便利背后有风险（百姓关注）上传一张照片，就可以把歌手换成自己；一键制作，就可以变成视频中的经典角色……一段时间以来，“AI（人工智能）换脸”技术被广泛应用于短视频的二次创作，给社会公众带来了新鲜体验。不少网友感叹，“AI换脸”生成的视频，惟妙惟肖，很有意思。
近日，包头警方发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。
