“AI语音克隆令人难辨真假，名人视频遭伪造而‘被带货’，统计显示2023年基于AI的深度伪造欺诈暴增3000%……”市人大代表、上海合合信息科技股份有限公司董事、董事会秘书刘忱表示，生成式人工智能加快迭代，在带来便利的同时，如果缺乏科技伦理的规范引导，容易滋生出诸多安全隐患，成为
“妈，8000元不够，给我转1.5万元吧。”一位母亲正和女儿视频聊天，听着在外地上学的女儿在视频里撒娇抱怨“生活费不够用了”，她心疼不已打算立刻给孩子转账。就在这时，家门打开了，她的“真女儿”走了进来。而另一头，视频里的“假女儿”还在央求妈妈“给生活费”。
截至10月23日，“Reecho睿声”上仍有三个名为“雷军”的克隆声音模型可正常使用。 网络截图 【编者按】 2021年11月1日，《中华人民共和国个人信息保护法》正式施行，为我国个人信息保护提供了更具系统性、针对性和可操作性的法律遵循。
□董芳宁 (宁夏大学)近日，著名配音演员赵乾景将声音授权给AI，将通过全新的AI有声剧演绎经典IP《凡人修仙传》，在此次项目中，Sound Engine训练出多种音色的AI人声，使得赵乾景能够一人分饰多角，如旁白，主角等。
“手里翻找冻鱼，精心的布局；老漠却不言语，脸上带笑意……”《狂飙》剧情被写成歌词，再配上“科目三”背景音乐的演唱，这段1分钟30秒的视频受到了无数网友的点赞。最近一段时间随着AI技术的发展，说唱解说影视不再需要好嗓门和优秀的编词功底。那么如今AI说唱的实力如何？
日前，小米集团董事长雷军的AI语音包刷屏了。一些网友用AI克隆雷军的声音，或是吐槽不文明行为，或是表达对他人的不满，言辞尖锐，十分逼真，再次引发公众对于技术加速迭代的深层次思考。近年来，人工智能技术加快发展，在带来创新和便利之际，也一并带来了侵权、诈骗等违法行为的可能。
作者 | 程茜编辑 | 云鹏智东西3月6日报道，今日下午，声网对话式AI引擎正式发布，其拥有650ms超低延时响应、优雅打断、全模型适配等五大能力，可支持任意文本大模型快速升级为“能说会道”的对话式多模态大模型。
Meta近日创建了一个新系统，可以在人工智能生成的音频片段中嵌入名为“水印”的隐藏信号，有助于在网络上检测人工智能生成的内容。该工具名为AudioSeal，它可以在长达一小时的播客中找到哪些音频片段可能是由人工智能生成的。这是第一个能实现该功能的工具。
