原标题：AI换脸：耳听为虚，眼见也未必为实当心陷阱。新华社图片假如有一天，“住校的女儿”找你要生活费，“远房亲戚”有急用找你借钱，看到视频中熟悉的脸，听到语音中熟悉的声音，你会不会毫不怀疑地转账？前不久，国家有关部门发布谨防“AI换脸”等新型诈骗手段的风险提示。
央视新闻客户端 明星现身、专家卖药……一张图片、一段声音，就能生成虚假视频，今年两会期间，雷军等受害者的回应，让AI伪造侵权再次成为热点。换脸拟声合成视频 AI伪造何时休？全国人大代表 雷军：有网友说去年国庆放了7天假，8天被我骂醒。
眼见未必是真！一张“人像照片”、一段“人物视频”，都有可能成为不法分子犯罪的新手段和新工具。2024年国家网络安全宣传周期间，关于AI换脸、换声等对个人隐私侵害的话题再次成为大家关注的焦点。实际上，就在网安周前一周举行的外滩大会期间，也同样在热议这一话题。
澎湃新闻记者 张唯1月31日，公安部网安局发文提醒公众，注意防范合成声音和AI换脸等人工智能新型手段诈骗,建议通过多重验证、保护信息和相互提示的方式避免上当。所谓合成声音，是指骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方。
事发后，也有不少人在社交媒体上发声，表示自己“被换脸了”。新浪科技发现，如今在小红书、闲鱼、B站等平台，利用AI美女视频教程吸引用户，号称“流行赛道，5天破万粉，日入四位数”的教程，成为行业灰产的温床。
来源：环球时报 【环球时报综合报道】据意大利《晚邮报》18日报道，日前在网络上热传的意大利政客讲中文视频出自人工智能（AI）之手。意大利“五星运动”党创始人同时也是著名喜剧演员和“网红”的格里洛，日前在社交媒体上发了一段3分钟的中文演讲，其流利程度仿佛真的学过多年汉语。
极目新闻 屈旌近日，知名模特叶凯薇发视频公开控诉，称其被人利用AI换脸制作淫秽视频，并大量传播，造成严重困扰，目前已经收集证据并报警，引发关注。记者从警方处获悉，经鉴定，该视频确系拼凑伪造，正在进一步调查中。
只需3秒语音，就能克隆你的声音；上传一张照片，就能生成动态视频。这不是科幻电影，而是正在发生的真实事件。近日，#靳东两会建议AI换脸立法#的话题冲上热搜第一。此前，雷军提出的“加强‘AI换脸拟声’违法侵权重灾区治理”建议，同样受到了广泛关注。
9月6日，《虚假数字人脸检测金融应用技术规范》标准（下称《标准》）在2024 Inclusion·外滩大会上正式发布。标准规定了金融领域虚假数字人脸检测服务的功能要求、技术要求、性能要求等，并提出了对应的测试评估方法。
近日，包头警方发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。
