“上当受骗了!没想到视频切片里‘专家推荐说辞’居然是AI造假。”00后小高愤怒地将购买的减肥产品扔进垃圾桶。小高告诉新京报贝壳财经记者,自己之所以心动,源于看见《国医少年志》视频切片里推荐了这款减肥产品,结果未见效果反而被包装营销暗算。
工人日报 “未见其人,先闻其声”,如今在网络平台上,AI声音随处可见。随着算法不断进步,在高性能设备和高精度模型的助力下,AI生成的声音已从过去的“一听就假”发展到如今的 “真假难辨”。不少有声读物采用AI配音,读者甚至能选择模仿某个特定人的声音,这既降低了成本,也增添了趣味性。
记者在短视频平台搜索发现,不少非节目官方所发布的切片里夹藏大量“私货”,视频主通过AI技术更换专家语音和字幕,将涉及体重管理、祛湿等保健类商品经过包装成功实现“名人带货”。加句台词综艺切片包装出明星代言“上当受骗了!没想到视频切片里‘专家推荐说辞’居然是AI造假。
本报记者 赵 丽本报实习生 林铭溱“妈,8000元不够,给我转1.5万元吧。”一位母亲正和女儿视频聊天,听着在外地上学的女儿在视频里撒娇抱怨“生活费不够用了”,她心疼不已打算立刻给孩子转账。就在这时,家门打开了,她的“真女儿”走了进来。
“上当受骗了!没想到视频切片里‘专家推荐说辞’居然是AI造假。”00后小高愤怒地将购买的减肥产品扔进垃圾桶。小高告诉新京报贝壳财经记者,自己之所以心动,源于看见《国医少年志》视频切片里推荐了这款减肥产品,结果未见效果反而被包装营销暗算。
AI的飞速发展,让“未来已来”成为流行词。有人说,今年是AI元年。近20天,AI产业在众多领域推陈出新,技术日新月异。3月15日,ChatGPT-4发布。紧接着,Midjourney V5发布,其生成的AI画作真假难辨。
国庆假期期间,短视频平台上出现了大量“雷军AI配音”的恶搞视频。在视频中,“雷军”锐评了堵车、假期等热门话题,其中还有一些较为刺耳的言论,如要用小米SU7撞死××,要远程控制小米手机炸××等等。有网友称:“国庆上网被雷军骂了整整7天。”此事已得到雷军本人及小米内部的关注。
9月26日,合肥市公安局高新分局发布警情通报称,对于网上传播涉卢某某的音视频,9月22日抓获犯罪嫌疑人王某某,并在其电脑、手机和制作AI音频的网站中发现伪造相关音视频的证据;结合其供述、调查取证,并经部、省专业机构检验鉴定,认定报案所涉网传音视频系伪造。