2021年11月1日,《中华人民共和国个人信息保护法》(以下简称《个人信息保护法》)正式施行,为我国个人信息保护提供了更具系统性、针对性和可操作性的法律遵循。三年来,各类数据处理者采取了哪些措施强化个人信息保护,面对人工智能等技术带来的新挑战,有哪些应对举措?
据说关注我的人,最近都发了笔横财!王某某的制作过程可以说是对现代科技的巧妙利用,但其背后的违法动机却让人深思,他首先从网络上下载了大量音视频资料,随后杜撰出一段虚假的酒后言论脚本,并利用AI工具进行音频的生成,值得注意的是,合成过程中所使用的女声也是通过AI训练生成的,这表明他甚至可以完全依靠技术重塑声音,达成不可思议的效果,这种高超的制作手法不仅让他成功地在网络上发布了虚假信息,更使他在短时间内吸引了大量关注,在社交媒体上,伪造音频的传播速度之快,让许多人为之震惊,甚至有人开始相信这些虚假消息的真实性。
近日,安徽合肥官方对外披露对合肥三只羊网络科技有限公司(简称“三只羊”)直播带货中存在问题的调查结果,以及对“三只羊”录音门事件的调查结果。合肥市公安局高新分局发布警情通报称,2024年9月20日,该局接三只羊公司报警称,网上传播涉卢某某的音视频不实,严重侵害其合法权益。
21世纪经济报道记者肖潇 北京报道本周国内倍受关注的两件合规事件,无疑是民宿偷拍产业链被曝光,以及警方证实三只羊“录音”为AI伪造——前者关系到近年屡禁不止的针孔摄像头,后者则是新兴的AI深度合成技术。
三只羊“录音门”背后的AI语音公司,又认领了“雷军”AI骂人配音。刚过去的国庆假期,短视频平台充斥着大量“雷军”骂人视频,把这位科技大佬塑造成“出口成脏”的形象。面对网友恶搞,雷军本人以三个愤怒的表情予以回应。目前,这类骂人配音视频已基本从短视频平台消失。
合肥警方9月26日通报,网传“三只羊”卢某某的酒后言论系AI工具伪造。南都记者了解到,涉案嫌疑人用以伪造卢某某言论的AI声音克隆平台为“Reecho睿声”。该平台由一位00后创业者开设,今年2月正式上线。
针对“三只羊录音门”事件,9月26日晚,合肥市公安局高新分局通报称,相关录音系嫌疑人用AI工具训练伪造。随后不少网友质疑AI可模仿情绪、方言的真实性。27日凌晨,涉事AI工具的研发公司发布声明,称“将进一步加强用户身份认证与音频生成的安全管控措施”,此举被指系“蹭流量打广告”。
界面新闻记者 | 伍洋宇 界面新闻编辑 | 文姝琪以“三只羊”为事件核心的舆论仍在继续发酵,这次是由录音伪造引起的AI安全顾虑。 此前,三只羊网络科技有限公司因直播带货的“香港美诚月饼”涉嫌虚假宣传、欺骗消费者等问题引发舆情风波。
国庆假期期间,短视频平台上出现了大量“雷军AI配音”的恶搞视频。在视频中,“雷军”锐评了堵车、假期等热门话题,还涉及捐款给某大学、用小米SU7撞人、远程控制小米手机进行爆炸等。其中还有一些不雅谩骂。有网友调侃称:“国庆上网被‘雷军’骂了整整7天。
三只羊“录音门”背后的AI语音公司,又认领了“雷军”AI骂人配音。 刚过去的国庆假期,短视频平台充斥着大量“雷军”骂人视频,把这位科技大佬塑造成“出口成脏”的形象。有网友调侃称“国庆七天被雷军追着骂了八天”。 面对网友恶搞,10月7日晚,雷军本人以三个愤怒的表情予以回应。
涉事AI公司深圳市言域科技有限公司确认其AI配音平台被用于生成该录音,正加强产品安全措施。 9月26日晚,合肥警方通报称,9月20日接到三只羊公司报警,称网上传播的涉卢某某音视频不实,严重侵害其合法权益。
PIKA是一款由Pika Labs开发的人工智能视频生成工具,用户可通过输入文本或上传图片,快速生成高质量、富有创意的视频内容,由郭文景和孟晨霖共同创立,两人均为斯坦福大学人工智能实验室的博士生。10月,PIKA单月访问量增长达437%,领跑全球产品,访问量约43万次。
国庆假期期间短视频平台上出现了大量“雷军AI配音”的恶搞视频在视频中,“雷军”锐评了堵车、假期等热门话题,其中还有一些不雅谩骂,有网友调侃称“国庆上网被雷军骂了整整7天”。除了吐槽外,视频里的“雷军”还称要投资某某大学。截至目前,平台上相关话题浏览量过亿。