据新华社消息，杭州上城区网警近日破获一起重大勒索病毒案件。经警方侦办，四名犯罪嫌疑人全部落网，他们均有供职大型网络科技公司经历，对于分工负责编写勒索病毒版本、借助ChatGPT进行程序优化、开展漏洞扫描、渗透获取权限、植入勒索病毒、实施敲诈勒索的犯罪事实供认不讳。
随着人工智能的迅猛发展，诈骗团伙的诈骗手段也越来越高科技化，比如竟然用上了“AI换脸”技术。近日，内蒙古包头警方发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。诈骗都用上AI技术了，这不得不令人感慨。
“AI语音克隆令人难辨真假，名人视频遭伪造而‘被带货’，统计显示2023年基于AI的深度伪造欺诈暴增3000%……”市人大代表、上海合合信息科技股份有限公司董事、董事会秘书刘忱表示，生成式人工智能加快迭代，在带来便利的同时，如果缺乏科技伦理的规范引导，容易滋生出诸多安全隐患，成为
来源：环球时报 美国《华尔街日报》6月4日文章，原题：中国打击人工智能驱动的诈骗行为激增现象人工智能（AI）正在进入中国人的日常生活，也包括AI驱动的诈骗行为激增。几周来，中国各地警方警告说，犯罪分子正利用AI软件生成欺骗性的消息并冒充被诈骗目标的朋友。
本报记者 王丽新 见习记者 寇佳丽在AI技术给人们的工作和生活带来诸多便利的同时，也有不法分子借用这一新兴技术做起了坏事。6月份以来，“AI诈骗”一词频频冲上热搜。“10分钟骗走430万元”“换脸合成不雅视频试图敲诈18万元”“AI换声伪装好友借钱不还”等案件相继出现。
来源：环球时报 近期出现了一些利用人工智能（AI）进行诈骗和欺骗的事件，令人担忧。例如今年5月，警方发布一起利用AI实施电信诈骗的典型案例，受害人10分钟内被骗430万元。网络上也出现了一些利用AI生成技术“换脸”诱导消费者的现象。这些事件让很多人开始注意到AI诈骗。
最近，视频网站上通过人工智能换脸，《亮剑》里的主角用英语飙起了台词，通过小程序用户也可以将自己变成电影里的人物。新技术带来欢乐的同时，也带来了一种名为“AI换脸诈骗”的新骗术。前不久，国家金融监督管理总局北京监管局发布谨防“AI换脸”等新型欺诈手段的风险提示，这种骗术如何防？
新华每日电讯记者程思琪号称可提供ChatGPT服务，实际是冒牌AI；视频电话中熟悉的“亲友”，是不法分子AI换脸模拟而成；为博取流量，用AI技术编造虚假谣言，流量变“流毒”……随着人工智能的发展迭代，生成式AI正以前所未有的速度重塑着日常生活，但由此衍生出的新骗局、新套路也在刷新
在 Sora、Claude 3 将人工智能推向新高峰时，人工智能的触手也被拿来伸向黑暗。澎湃新闻对齐 Lab 梳理近期 AI 新型诈骗典型案例后发现：当下利用 AI 技术的诈骗手段呈现出门槛更低，效果更逼真的趋势，让人更加防不胜防。
OPENAI发布文本转视频模型SORA引发全球关注。这类技术的普及除了将颠覆视频内容的生产方式，也让造假成本更低廉。一些不法分子利用AI技术融合他人面孔和声音，制造非常逼真的合成图像来实施新型网络诈骗，这类骗局常常会在短时间内给被害人造成较大损失。
近日，包头警方发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。
