“AI语音克隆令人难辨真假，名人视频遭伪造而‘被带货’，统计显示2023年基于AI的深度伪造欺诈暴增3000%……”市人大代表、上海合合信息科技股份有限公司董事、董事会秘书刘忱表示，生成式人工智能加快迭代，在带来便利的同时，如果缺乏科技伦理的规范引导，容易滋生出诸多安全隐患，成为
过去一年，AI深度合成音视频侵权现象愈演愈烈。有人克隆雷军的声音，制作恶搞视频。有人伪造刘德华的音视频，为自己带货。近日记者调查发现，实现AI深度合成音视频并不算难事，甚至在一些购物平台，AI深度合成技术已经成为众多网店牟利的工具，只需花费几十元，就可定制AI深度合成名人音视频。
亲耳听到的就一定是真的吗？未必。媒体调查发现，随着人工智能技术和语音大模型应用的发展，大量 AI 合成声音 App 涌现，最快只需十几秒便可 “克隆” 出一种声音。与此同时，AI 声音滥用现象愈发突出，不时引发争议。
4月23日上午，北京互联网法院对全国首例“AI声音侵权案”进行一审宣判，认定作为配音师的原告，其声音权益及于案涉AI声音，被告方使用原告声音、开发案涉AI文本转语音产品未获得合法授权，构成侵权，书面赔礼道歉，并赔偿原告各项损失25万元。
从“张文宏医生”推销蛋白棒视频“走红”网络，后被本人“打假”，到多位配音演员称声音被AI“偷走”，公开维权……新华社记者调查发现，随着人工智能技术和语音大模型应用的发展，AI合成声音App大量出现，最快只需十几秒便可“克隆”出来。与此同时，AI声音滥用现象愈发突出，不时引发争议。
2021年11月1日，《中华人民共和国个人信息保护法》（以下简称《个人信息保护法》）正式施行，为我国个人信息保护提供了更具系统性、针对性和可操作性的法律遵循。三年来，各类数据处理者采取了哪些措施强化个人信息保护，面对人工智能等技术带来的新挑战，有哪些应对举措？
“未见其人，先闻其声”，如今在网络平台上，AI声音随处可见。随着算法不断进步，在高性能设备和高精度模型的助力下，AI生成的声音已从过去的“一听就假”发展到如今的 “真假难辨”。不少有声读物采用AI配音，读者甚至能选择模仿某个特定人的声音，这既降低了成本，也增添了趣味性。
来源：经济日报人的声音与人工智能（AI）声音之间的权益之争应该如何界定？4月23日，北京互联网法院对全国首例“AI声音侵权案”进行一审宣判给出答案。法院认定，作为配音师的原告，其声音权益包括案涉AI声音。被告方公司使用原告声音、开发案涉AI文本转语音产品未获得合法授权，构成侵权。
中国商报（记者 赵熠如）近日，胖东来针对利用AI技术生成胖东来创始人于东来声音的情况发表声明称，将对侵权行为追究法律责任。此前，小米集团创始人、董事长兼首席执行官雷军也“中招”，其表示希望网友不要再这样玩。当前，用AI技术生成语音和视频的教程及软件层出不穷。
虚拟逝者的“AI数字人” 视频截图□楚天都市报极目新闻记者 刘琴花10元就可以让照片上原本静态的人开心地笑起来；花50元就能让照片上的人开口说话；花100元就能还原照片中人物的声音……在音乐人包小柏利用AI技术“复活”因病去世的女儿后，有网友“复活”了李玟、高以翔、乔任梁等已逝明
郭德纲讲英文段子，爱玛·沃特森、泰勒·斯威夫特中文流利......近日，抖音、B站等平台出现了大量AI生成的明星语言翻译视频。视频中的人物使用中英文表达自然真实，音色几乎匹配本人，口型和字幕同步，没有译制片腔调。
9月26日，合肥市公安局高新分局发布警情通报称，对于网上传播涉卢某某的音视频，9月22日抓获犯罪嫌疑人王某某，并在其电脑、手机和制作AI音频的网站中发现伪造相关音视频的证据；结合其供述、调查取证，并经部、省专业机构检验鉴定，认定报案所涉网传音视频系伪造。
