日前，小米集团董事长雷军的AI语音包刷屏了。一些网友用AI克隆雷军的声音，或是吐槽不文明行为，或是表达对他人的不满，言辞尖锐，十分逼真，再次引发公众对于技术加速迭代的深层次思考。近年来，人工智能技术加快发展，在带来创新和便利之际，也一并带来了侵权、诈骗等违法行为的可能。
在 Sora、Claude 3 将人工智能推向新高峰时，人工智能的触手也被拿来伸向黑暗。澎湃新闻对齐 Lab 梳理近期 AI 新型诈骗典型案例后发现：当下利用 AI 技术的诈骗手段呈现出门槛更低，效果更逼真的趋势，让人更加防不胜防。
12月13日，山东省政府新闻办举行新闻发布会，邀请省委政法委负责同志等介绍山东防范打击治理电信网络新型违法犯罪，守护人民群众合法权益情况。发布会上，省人民检察院副检察长王钦杰介绍了关于AI换脸、智能变声等新型诈骗方式的变化趋势及预防手段。
来源：【海报新闻】海报新闻记者 仇晶 钮晶 济南报道12月13日，山东省人民政府新闻办公室举行新闻发布会，介绍山东省打击治理电信网络诈骗违法犯罪工作情况。今年以来，已侦破电诈及关联犯罪案件1.55万起，抓获犯罪嫌疑人3.08万名，避免群众损失28.
“AI语音克隆令人难辨真假，名人视频遭伪造而‘被带货’，统计显示2023年基于AI的深度伪造欺诈暴增3000%……”市人大代表、上海合合信息科技股份有限公司董事、董事会秘书刘忱表示，生成式人工智能加快迭代，在带来便利的同时，如果缺乏科技伦理的规范引导，容易滋生出诸多安全隐患，成为
每年3·15，《IT时报》都会关注互联网消费领域中，随着新应用和新服务出现的侵犯消费者权利的事件和现象，今年，这些“假”要继续打下去，盗版图书泛滥、临期护肤品成“假货天堂” 、9.9元“换脸”马斯克等。
每经记者：毕媛媛 杜蔚 每经编辑：文多“雷军回应‘7天假期被AI雷军骂了8天’”“靳东建议AI换脸立法”⋯⋯今年全国两会期间，人工智能（AI）技术治理成为讨论焦点之一，其中“AI换脸”引发的风险问题受到代表委员们热议。在这场身份保卫战中，公众人物、媒体首当其冲。
近日，包头警方发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。
