“上当受骗了！没想到视频切片里‘专家推荐说辞’居然是AI造假。”00后小高愤怒地将购买的减肥产品扔进垃圾桶。小高告诉新京报贝壳财经记者，自己之所以心动，源于看见《国医少年志》视频切片里推荐了这款减肥产品，结果未见效果反而被包装营销暗算。
□王志高随着算法不断进步，在高性能设备和高精度模型的助力下，AI生成的声音已从过去的“一听就假”发展到如今的 “真假难辨”。不少有声读物采用AI配音，读者甚至能选择模仿某个特定人的声音，这既降低了成本，也增添了趣味性。与此同时，AI声音滥用现象也时有发生。
“未见其人，先闻其声”，如今在网络平台上，AI声音随处可见。随着算法不断进步，在高性能设备和高精度模型的助力下，AI生成的声音已从过去的“一听就假”发展到如今的 “真假难辨”。不少有声读物采用AI配音，读者甚至能选择模仿某个特定人的声音，这既降低了成本，也增添了趣味性。
亲耳听到的就一定是真的吗？未必。媒体调查发现，随着人工智能技术和语音大模型应用的发展，大量 AI 合成声音 App 涌现，最快只需十几秒便可 “克隆” 出一种声音。与此同时，AI 声音滥用现象愈发突出，不时引发争议。
“AI换脸拟声”乱象频现 如何治理？福州法律专家：为人工智能套上法治缰绳“雷军回应‘国庆7天被AI雷军骂了8天’”“靳东两会建议AI换脸立法”……今年全国两会期间，“AI换脸拟声”技术的滥用问题引发代表委员关注，相关话题频频登上热搜，也引发福州市民热议。
来源：工人日报 随着算法不断进步，在高性能设备和高精度模型的助力下，AI生成的声音已从过去的“一听就假”发展到“真假难辨”，AI声音滥用现象时有发生。一些商家在短视频平台带货时，通过AI模仿知名人士的声音编造内容，不仅严重误导了消费者，也对当事人造成了不良影响。
