“AI换脸拟声”乱象频现 如何治理？福州法律专家：为人工智能套上法治缰绳“雷军回应‘国庆7天被AI雷军骂了8天’”“靳东两会建议AI换脸立法”……今年全国两会期间，“AI换脸拟声”技术的滥用问题引发代表委员关注，相关话题频频登上热搜，也引发福州市民热议。
3月4日，在十四届全国人大三次会议开幕前，全国人大代表、小米集团创始人、董事长兼CEO雷军，围绕新能源汽车、人工智能产业的高质量发展，向大会提交了五份建议，其中一份建议为《关于加强“AI换脸拟声”违法侵权重灾区治理的建议》。
福州法律专家：为人工智能套上法治缰绳“雷军回应‘国庆7天被AI雷军骂了8天’”“靳东两会建议AI换脸立法”……今年全国两会期间，“AI换脸拟声”技术的滥用问题引发代表委员关注，相关话题频频登上热搜，也引发福州市民热议。手机应用商店有许多“AI换脸”App（页面截图）。
加强对AI技术的监管，不仅关乎个人的“脸面”，而且关乎行业的“体面”在3月5日的政协小组讨论上，全国政协委员靳东回应了AI换脸导致的诈骗问题。他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。
在3月5日的政协小组讨论上，全国政协委员靳东回应了AI换脸导致的诈骗问题。他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”而近日，全国人大代表雷军也提交了关于加强“AI换脸拟声”违法侵权重灾区治理的建议。
两会期间，全国人大代表雷军、全国政协委员靳东等呼吁立法整治AI“换脸拟声”的话题引发广泛关注。靳东呼吁立法整治AI“换脸拟声”雷军呼吁网友不要再恶搞此前，曾有一些喜欢靳东的观众，被AI换脸的“假靳东”所骗，有的甚至要到银行贷款200万元给自己的男朋友“靳东”拍戏。
9月2日，游戏未定事件簿发布关于游戏角色莫奕语音的调整说明，未定事件簿项目组与光合积木进行沟通后确定，原游戏角色莫奕的配音演员姜广涛目前无法参加语音收录的工作，为了避免游戏内与莫奕相关的语音资源丢失，经过项目组的慎重评估，将基于逆熵AI技术制作莫奕语音，首批语音资源将会在9月6日开启的“百味盈欢”主题活动中正式上线。
从“张文宏医生”推销蛋白棒视频“走红”网络，后被本人“打假”，到多位配音演员称声音被AI“偷走”，公开维权……新华社记者调查发现，随着人工智能技术和语音大模型应用的发展，AI合成声音App大量出现，最快只需十几秒便可“克隆”出来。与此同时，AI声音滥用现象愈发突出，不时引发争议。
近日，一段美国歌手泰勒·斯威夫特“说”中文的短视频在网络刷屏，引发热议。视频中，泰勒·斯威夫特“说”着流利中文，音色和讲母语时的音色类似，甚至连口型都能对上。类似的视频还有很多外国人“说”地道中文、很多中国艺人“说”起流利的英文……其实，这些视频都是由AI(人工智能)生成的。
