3月4日，在十四届全国人大三次会议开幕前，全国人大代表、小米集团创始人、董事长兼CEO雷军，围绕新能源汽车、人工智能产业的高质量发展，向大会提交了五份建议，其中一份建议为《关于加强“AI换脸拟声”违法侵权重灾区治理的建议》。
AI（人工智能）技术飞速发展，逐渐在金融、商业、医疗等领域落地应用。然而，相关技术的快速普及也带来了诸多治理和安全挑战，尤其是在AI换脸、数据隐私、模型安全等方面。2025年两会期间，多位代表和委员围绕AI治理、AI安全等问题展开热议。
3月8日，雷军表示这两年AI换脸、拟声等快速发展，但任何一个人的脸和声音都能轻松被用来做各种视频，成了新的违法重灾区。雷军称自己本身也是受害者，当他想通过法律维权时，却发现对此没有专门的立法，只能用隐私权、肖像权、名誉权等法律起诉，而这些都要量化损失。
在3月5日的政协小组讨论上，全国政协委员靳东回应了AI换脸导致的诈骗问题。他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”而近日，全国人大代表雷军也提交了关于加强“AI换脸拟声”违法侵权重灾区治理的建议。
