“AI换脸拟声”乱象频现 如何治理？福州法律专家：为人工智能套上法治缰绳“雷军回应‘国庆7天被AI雷军骂了8天’”“靳东两会建议AI换脸立法”……今年全国两会期间，“AI换脸拟声”技术的滥用问题引发代表委员关注，相关话题频频登上热搜，也引发福州市民热议。
“有网友说，去年‘十一’放了7天假被我整整骂了8天。”近日，小米集团创始人雷军再次谈起自己去年深陷“虚假语音包”风波的“受害经历”。他说，人工智能技术兴起以后产生了很多新问题，呼吁相关部门要提前预判，提前立法。
3月4日，在十四届全国人大三次会议开幕前，全国人大代表、小米集团创始人、董事长兼CEO雷军，围绕新能源汽车、人工智能产业的高质量发展，向大会提交了五份建议，其中一份建议为《关于加强“AI换脸拟声”违法侵权重灾区治理的建议》。
虽说“眼见为实”，但虚拟世界里的“眼见为实”却不一定真。如今，“AI（人工智能）换脸”图片和视频成为热门现象，AI换脸、拟声等技术，定制性强、应用场景广泛，不法分子作案手法多样，导致AI犯罪不断衍生升级。
12月13日，山东省政府新闻办举行新闻发布会，邀请省委政法委负责同志等介绍山东防范打击治理电信网络新型违法犯罪，守护人民群众合法权益情况。发布会上，省人民检察院副检察长王钦杰介绍了关于AI换脸、智能变声等新型诈骗方式的变化趋势及预防手段。
日前，小米集团董事长雷军的AI语音包刷屏了。一些网友用AI克隆雷军的声音，或是吐槽不文明行为，或是表达对他人的不满，言辞尖锐，十分逼真，再次引发公众对于技术加速迭代的深层次思考。近年来，人工智能技术加快发展，在带来创新和便利之际，也一并带来了侵权、诈骗等违法行为的可能。
您是否曾被AI合成内容的逼真度震惊?流畅的换脸视频、清晰的合成语音、精致的虚拟图片……由此衍生出来的“AI诈骗”“深度伪造”等违法侵权案件也层出不穷。近期，国家网信办起草的《人工智能生成合成内容标识办法》正征求意见，上述内容都将被打上“专属水印”，辨识“AI换脸”将更加直观。
来源：中工网 龚先生“一些喜欢我的影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。“3月5日，在政协小组讨论上，全国政协委员、演员靳东表示今年自己的提案之一是加快与AI应用相关的立法工作。
近日，包头警方发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。
