据网络安全实验室统计，仅2024年12月1日至2025年2月期间，就出现了超过2000个仿冒DeepSeek的山寨网站，打着“免费内测”“AI暴富课”旗号诱导用户下载恶意软件，造成个人信息泄露甚至资金被盗。
据央广网报道，有网络主播正将目光瞄向“AI（人工智能）”“人形机器人”等新兴领域，用虚拟商品对老年人进行诱骗。被曝光的名为“李校长AI”的主播用不实视频诱骗老年人为买到并不存在“养老伴侣机器人”先购买相关培训课程，销售额超百万元。
日前，小米集团董事长雷军的AI语音包刷屏了。一些网友用AI克隆雷军的声音，或是吐槽不文明行为，或是表达对他人的不满，言辞尖锐，十分逼真，再次引发公众对于技术加速迭代的深层次思考。近年来，人工智能技术加快发展，在带来创新和便利之际，也一并带来了侵权、诈骗等违法行为的可能。
在3月5日的政协小组讨论上，全国政协委员靳东回应了AI换脸导致的诈骗问题。他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”据江西公安2024年11月19日消息，知名男演员靳东深受不少中老年群体的喜爱，有不法分子利用这一点钻了空子。
来源：广州日报 AI换脸诈骗对越来越多人下手了！近日，外媒曝光了一种新型数字诈骗，诈骗犯利用复杂的AI工具制作特斯拉CEO马斯克等名人的视频，并利用这些“AI名人”对各种虚假的产品或“投资”进行背书，并承诺高额投资回报。
在当前这个AI遍地走、门槛近乎无的时代，如果你还没有试过用AI生成图片或视频（以下统称AI生图），那确实有点不够“潮”了。与其他新技术一样，AI生图技术自诞生之日起就充满争议，一路鲜花与荆棘相伴。支持者视它为颠覆性的技术革命，反对者视它为洪水猛兽。
什么？“张文宏”开始带货了？最近有网友向媒体发来一段视频询问“张文宏是不是带货了？”还在卖一种蛋白棒，家里的老人信以为真已经下单，还转发了很多群。该视频系AI合成记者核实发现，这个账号名为“般画234”。在视频中，“张文宏”反复介绍一种产品，口型是他的，声音也是他的。
AI技术(例如最近很火的DeepSeek),正在逐渐改变我们的生活方式，提升工作效率，为解决许多问题提供途径等。但与此同时，随着AI技术的迅猛发展，诈骗手法也变得愈发复杂和隐蔽，不仅涉及传统的电信诈骗，更通过声音合成、换脸等高科技手段，让人防不胜防......
“有网友说，去年‘十一’放了7天假被我整整骂了8天。”近日，小米集团创始人雷军再次谈起自己去年深陷“虚假语音包”风波的“受害经历”。他说，人工智能技术兴起以后产生了很多新问题，呼吁相关部门要提前预判，提前立法。
近日，包头警方发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。
