从“张文宏医生”推销蛋白棒视频“走红”网络，后被本人“打假”，到多位配音演员称声音被AI“偷走”，公开维权……新华社记者调查发现，随着人工智能技术和语音大模型应用的发展，AI合成声音App大量出现，最快只需十几秒便可“克隆”出来。与此同时，AI声音滥用现象愈发突出，不时引发争议。
“AI歌手”的声音合成技术，有可能被恶意使用，成为违法犯罪的“帮凶”。科技这把双刃剑要谨慎对待，唯有法律与监管体系跟上AI技术的变革步伐，才能引导人工智能“向善”。吴睿鸫从AI换脸、AI绘画到AI写论文，科技的力量让人惊叹。现在，AI翻唱又火出圈。
11月24日，胖东来商贸集团发布声明：近日，我们在第三方网络平台发现多个账号，未经授权擅自利用AI技术手段生成于东来先生的声音，并对于东来先生或我公司享有著作权的视频内容进行非法剪辑和篡改，加入AI生成声音及误导性文案后发布，对公众造成误导和混淆。
9月26日，合肥市公安局高新分局发布警情通报称，对于网上传播涉卢某某的音视频，9月22日抓获犯罪嫌疑人王某某，并在其电脑、手机和制作AI音频的网站中发现伪造相关音视频的证据；结合其供述、调查取证，并经部、省专业机构检验鉴定，认定报案所涉网传音视频系伪造。
据媒体报道，近期，多部国产电视剧遭遇到AI的“魔改”，相关视频在网络上被广泛传播。如《红楼梦》变成了“武打戏”，柔弱的林黛玉变成了林教头，还玩起了“林黛玉倒拔垂杨柳”；《甄嬛传》成了“枪战片”，甄嬛手持冲锋枪，收拾情敌。
前有歌手陈珊妮用AI制作完成新歌，后有“AI孙燕姿”翻唱周杰伦、王菲、张韶涵耳熟能详的代表作……在AI技术涉足音乐领域、显现创造力的同时，也引发了一些法律、伦理上的争议和担忧，尤其是关于声音版权的问题。当前，越来越多的音频软件开始采用AI技术。
