近日,安徽合肥官方对外披露对合肥三只羊网络科技有限公司(简称“三只羊”)直播带货中存在问题的调查结果,以及对“三只羊”录音门事件的调查结果。合肥市公安局高新分局发布警情通报称,2024年9月20日,该局接三只羊公司报警称,网上传播涉卢某某的音视频不实,严重侵害其合法权益。
刚刚过去的国庆长假期间,网络平台上出现了一系列“雷军AI配音”视频。这些视频冒用AI生成的雷军声音,其中一些内容言辞激烈,引发网友关注热议。随着AI技术的普及,“克隆”特定人物声音已实现“一键式”操作,同时也带来了民事侵权甚至涉嫌犯罪的法律问题。
合肥警方9月26日通报,网传“三只羊”卢某某的酒后言论系AI工具伪造。南都记者了解到,涉案嫌疑人用以伪造卢某某言论的AI声音克隆平台为“Reecho睿声”。该平台由一位00后创业者开设,今年2月正式上线。
界面新闻记者 | 伍洋宇 界面新闻编辑 | 文姝琪以“三只羊”为事件核心的舆论仍在继续发酵,这次是由录音伪造引起的AI安全顾虑。 此前,三只羊网络科技有限公司因直播带货的“香港美诚月饼”涉嫌虚假宣传、欺骗消费者等问题引发舆情风波。
针对“三只羊录音门”事件,9月26日晚,合肥市公安局高新分局通报称,相关录音系嫌疑人用AI工具训练伪造。随后不少网友质疑AI可模仿情绪、方言的真实性。27日凌晨,涉事AI工具的研发公司发布声明,称“将进一步加强用户身份认证与音频生成的安全管控措施”,此举被指系“蹭流量打广告”。
2024年11月30日,中国象棋泰斗、74岁的柳大华正在深圳家中,拿着手机贴在耳朵上专心听骂。在象棋圈内,他被称为“东方电脑”,曾在1980年打破“胡司令”胡荣华的十连冠纪录,拿到全国冠军。网民们的谩骂让柳大华很困惑,听到不合理的地方,他还自言自语辩解起来。
9月26日晚,合肥市公安局高新分局通报称,“三只羊”公司卢某某的酒后言论系杜撰,其中的男声和女声均系AI生成。通报称,2024年9月20日,合肥市公安局高新分局接三只羊公司报警称,网上传播涉卢某某的音视频不实,严重侵害其合法权益。
近日,一段“三只羊集团创始人卢文庆本人”的录音和视频在网络引发热议。9月26日,合肥市公安局高新分局通报称,相关网传音视频系伪造,犯罪嫌疑人王某某(男,25岁)杜撰卢某某酒后言论脚本,使用AI工具训练生成假冒卢某某的音频。
半岛全媒体记者 李雪梅AI的发展,开启了深度伪造与低价量产的2.0时代。国庆假期期间,短视频平台上出现了大量“雷军AI配音”的恶搞视频。在视频中,“雷军”锐评了堵车、假期等热门话题,甚至还有不雅谩骂。有网友调侃称:“国庆上网被雷军骂了整整7天。
纵览新闻评论员 刘玉婧近日,一段“三只羊集团创始人卢某某本人”的录音和视频在网络引发热议。9月26日,合肥市公安局高新分局通报称,犯罪嫌疑人被抓获,并发现伪造相关音视频的证据;经检验鉴定,认定报案所涉网传音视频系伪造。
·涉事AI公司深圳市言域科技有限公司确认其AI配音平台被用于生成该录音,正加强产品安全措施。9月26日晚,合肥警方通报称,9月20日接到三只羊公司报警,称网上传播的涉卢某某音视频不实,严重侵害其合法权益。
据说关注我的人,最近都发了笔横财!王某某的制作过程可以说是对现代科技的巧妙利用,但其背后的违法动机却让人深思,他首先从网络上下载了大量音视频资料,随后杜撰出一段虚假的酒后言论脚本,并利用AI工具进行音频的生成,值得注意的是,合成过程中所使用的女声也是通过AI训练生成的,这表明他甚至可以完全依靠技术重塑声音,达成不可思议的效果,这种高超的制作手法不仅让他成功地在网络上发布了虚假信息,更使他在短时间内吸引了大量关注,在社交媒体上,伪造音频的传播速度之快,让许多人为之震惊,甚至有人开始相信这些虚假消息的真实性。