近年来，“AI换脸拟声”不当滥用造成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，甚至造成难以挽回的大规模形象和声誉损害，带来社会治理等风险。3月4日，全国人大代表、小米创办人兼董事长兼CEO雷军拟向大会提交建议：加强“AI换脸拟声”违法侵权重灾区治理。（视频：南都记者 杨丽云 实习生 吴嘉敏）
3月4日，在十四届全国人大三次会议开幕前，全国人大代表、小米集团创始人、董事长兼CEO雷军，围绕新能源汽车、人工智能产业的高质量发展，向大会提交了五份建议，其中一份建议为《关于加强“AI换脸拟声”违法侵权重灾区治理的建议》。
中新网3月4日电 今年全国两会，全国人大代表雷军建议加强“AI换脸拟声”违法侵权重灾区治理。雷军认为，人工智能深度合成技术的快速发展，推动了“AI换脸拟声”在影视、广告、社交等领域广泛兴起，成为社会喜闻乐见、传播力强、易成热点的技术应用。
日前，全国人大代表雷军公布了其准备的建议案。雷军提到，“AI换脸拟声”不当滥用造成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为。基于此，他提出加快单行法立法进程、压实平台企业等各方的责任和义务等建议。
全国人大代表、小米创办人兼董事长兼CEO雷军公布了他的2025两会建议。近年来，“AI换脸拟声”不当滥用造成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，甚至造成难以挽回的大规模形象和声誉损害，带来社会治理等风险。
据人民日报消息，3月5日，在政协小组讨论上，全国政协委员靳东回应了AI换脸导致的诈骗问题。视频截图（图源：人民日报）他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”据报道，近年来，通过AI深度伪造技术假冒名人的事件频繁发生。
张西流近年来，人工智能换脸拟声的过程应用了深度学习算法，生成的音视频内容几乎可以以假乱真，普通人仅仅通过看和听很难鉴别真假。在今年全国两会上，全国人大代表，小米集团创始人、董事长兼CEO雷军将提出5项建议，其中包括关于加强“AI换脸拟声”违法侵权重灾区治理的建议。
十四届全国人大三次会议开幕前，全国人大代表雷军提交了五份建议，其中包括关于加强“AI换脸拟声”违法侵权重灾区治理的建议。近年来，人工智能（AI）深度合成技术快速发展，推动AI技术与视频制作、图片生成、政务办理等行业迅速融合，AI技术使用已经逐步融入人们的日常生活中。
