人民政协网第二时间我们很难第一时间到达现场，但我们会在第二时间权威发声。第二时间，与您相伴。只要一张照片换脸，随即就能在网络复制“N”个自己，近日，有关“Deepfake”（深度伪造技术）事件的相关话题涌上热搜，利用“AI换脸”侵权的情形层出不穷，带来了较大的网络安全隐患。
近日，韩国出现多起利用AI换脸伪造女性色情露骨图像的犯罪案，在这背后，犯罪者用深度伪造技术（Deepfake）合成色情照片和视频，并在通信软件Telegram的群聊中传播，参与者多达22万人，引发韩国民众恐慌。
封面新闻记者 张越熙近日，外滩大会·全球Deepfake攻防挑战赛正式启动报名。该赛事提供百万级的数据集，针对“AI换脸”的欺诈风险进行攻防实战演练，并设立100万元人民币的奖金池，鼓励推动AI向善的技术人才。
4月16日，蚂蚁数科在京发布深度伪造（Deepfake）综合防控产品ZOLOZ Deeper，以拦截用户刷脸过程中的“AI换脸”风险，目前已率先应用在身份安全领域。公开资料显示，ZOLOZ是蚂蚁数科的科技品牌，以生物识别技术见长，历经支付宝App等大规模场景验证。
来源：环球网 【环球网报道 记者 李文瑶】4 月 17 日消息，蚂蚁数科正式对外发布深度伪造（Deepfake）综合防控产品ZOLOZ Deeper ，以拦截用户刷脸过程中的“AI换脸”风险，目前已率先应用在身份安全领域。
羊城晚报周末特约主笔 谢不明10月8日，2024年诺贝尔物理学奖颁发给两位人工智能专家，以表彰他们使用物理学工具为强大的机器学习方法奠定基础。其中一位获奖者发明了联想记忆，可以存储和重构图像，AI图像识别等技术就是在此基础上发展而来。
在当前这个AI遍地走、门槛近乎无的时代，如果你还没有试过用AI生成图片或视频（以下统称AI生图），那确实有点不够“潮”了。与其他新技术一样，AI生图技术自诞生之日起就充满争议，一路鲜花与荆棘相伴。支持者视它为颠覆性的技术革命，反对者视它为洪水猛兽。
事发后，也有不少人在社交媒体上发声，表示自己“被换脸了”。新浪科技发现，如今在小红书、闲鱼、B站等平台，利用AI美女视频教程吸引用户，号称“流行赛道，5天破万粉，日入四位数”的教程，成为行业灰产的温床。
曝光韩国AI换脸色情”:一键脱衣，视频合成，还有比这更炸裂的。试想一下，一个年幼的女孩，面对着手机屏幕上不断传播的，被恶意替换成自己面孔的色情视频，声嘶力竭地哭喊着为自己辩解，而周围的人却投来异样的目光，这该是怎样一种绝望?
眼见未必是真！一张“人像照片”、一段“人物视频”，都有可能成为不法分子犯罪的新手段和新工具。2024年国家网络安全宣传周期间，关于AI换脸、换声等对个人隐私侵害的话题再次成为大家关注的焦点。实际上，就在网安周前一周举行的外滩大会期间，也同样在热议这一话题。
这件事情在韩国被称为N号房2.0事件，至于什么是N号房事件，我也简单做个解释，在2020年的时候，韩国爆出了一件震惊世界的事情，在公共聊天房里，有76位韩国女性被胁迫用刀子在身上刻下“奴隶”的字眼，她们当中有很多是未成年人，有的为了生存被迫言听计从，成为罪犯的奴隶，有的不堪受辱最终选择结束自己的生命，这种残忍且恶心的罪行当时被接近26万韩国人全程目睹。
来源：钱江晚报 “张文宏”深夜带货，女孩照片被熟人“换脸”本报记者 朱高祥张文宏开始直播带货了？近日，不少网友发文称，短视频平台上，疑似知名医生张文宏正在售卖一种蛋白棒，家中老人信以为真而大量下单。但仔细辨认可以发现，带货视频为AI合成。
