随着算法不断进步，在高性能设备和高精度模型的助力下，AI生成的声音已从过去的“一听就假”发展到如今的“真假难辨”。不少有声读物采用AI配音，读者甚至能选择模仿某个特定人的声音，这既降低了成本，也增添了趣味性。与此同时，AI声音滥用现象也时有发生。
1970年4月，披头士乐队解散，数百万歌迷们伤心不已。50多年后的今天，人工智能(AI)正在将“逝去的记忆”复活，重新创作和重新想象披头士乐队的演唱。AI声音模拟得如此逼真，也引发了一系列伦理和法律问题，甚至导致了电信诈骗的出现。
央视新闻 全国首例“AI生成声音人格权侵权案”由最高人民法院与中央广播电视总台共同主办的“新时代推动法治进程2024年度十大案件”宣传活动网络投票近日已启动，49个广受社会关注的热点案件在网上进行展示，并接受社会公众投票。
近日，有网友用雷军声音的AI配音恶搞“骂人”冲上热搜，甚至引发不少网友“创作”，内容包括各种锐评、调侃，也出现了一些不雅词汇。尽管雷军本人出面澄清，并未引起更多误会，但仍有不少讨论，我们的声音应当如何被保护。
截至10月23日，“Reecho睿声”上仍有三个名为“雷军”的克隆声音模型可正常使用。 网络截图 【编者按】 2021年11月1日，《中华人民共和国个人信息保护法》正式施行，为我国个人信息保护提供了更具系统性、针对性和可操作性的法律遵循。
来源：【《法律适用》杂志】文章发表于《法律适用》2024年第9期“案例研究”栏目，第123-133页。因文章篇幅较长，为方便电子阅读，已略去原文注释。作者简介及文中所涉及的法律法规等按刊发时的内容转载。
从“张文宏医生”推销蛋白棒视频“走红”网络，后被本人“打假”，到多位配音演员称声音被AI“偷走”，公开维权……新华社记者调查发现，随着人工智能技术和语音大模型应用的发展，AI合成声音App大量出现，最快只需十几秒便可“克隆”出来。与此同时，AI声音滥用现象愈发突出，不时引发争议。
2023年世界互联网大会乌镇峰会期间，从“互联网之光”博览会到多场论坛讨论，AI大模型成为了与会嘉宾口中的高频词。与会人士认为，对人工智能来说，今年是具有里程碑意义的一年，生成式人工智能赋能千行百业，未来潜力已初见端倪。
“AI换脸拟声不当滥用成为违法侵权行为的重灾区”“一些喜欢我的影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。”今年全国两会期间，雷军、靳东的“吐槽”，让AI在音视频领域的技术滥用、侵权现象再次引发关注。
配音师因认为自身作品被短视频平台利用AI生成语音产品，严重侵犯了自己的声音权益，将短视频平台及制作方等5家公司诉至法院。4月23日，北京互联网法院一审开庭宣判了这起全国首例AI生成声音人格权侵权案，最终原告获赔经济损失25万元。
随着算法不断进步，在高性能设备和高精度模型的助力下，AI生成的声音已从过去的“一听就假”发展到“真假难辨”，AI声音滥用现象时有发生。一些商家在短视频平台带货时，通过AI模仿知名人士的声音编造内容，不仅严重误导了消费者，也对当事人造成了不良影响。
