来源：中新社 中新社北京10月30日电 (记者 陈杭)2023年10月至2024年10月，北京互联网法院共受理个人信息保护纠纷案件113件，已审结104件。其中，“AI换脸”等新类型侵权案件不断涌现，电子商务平台利用算法对消费者进行“大数据杀熟”等案件也屡见不鲜。
中国青年报客户端北京10月30日电（中青报·中青网记者 刘言）在《中华人民共和国个人信息保护法》实施两周年之际，北京互联网法院今天召开新闻通报会，通报了该院一年来个人信息保护案件审理情况并发布了8个典型案例。
一位老人接到电话，对方自称是其战友，说自己因生病想借钱。老人熟悉这位战友的声音，先后汇款2000元、8000元到对方银行账户。没想到，钱刚到对方账户，“战友”就消失了，老人这才发现自己被骗了……近日，一则“声音合成”骗局登上了热搜。
近几年AI发展迅猛，不少网友感叹：你不知道屏幕那一头是真人还是假人。为帮用户辨别真假，国家网信办起草的《人工智能生成合成内容标识办法（征求意见稿）》拟规定，AI生成合成内容须在显著位置打上“专属水印”，让用户一眼即知真假。用户苦AI造假甚矣。
2020年，浙江杭州的虞某接触了“AI换脸”软件。为吸引流量，他利用该软件制作大量淫秽视频并传播，被换脸的有不少是女明星。虞某声称，“只要能看到脸的都能换。”有人甚至要定制暗恋女生的换脸视频。最终，虞某犯制作、传播淫秽物品牟利罪，被判有期徒刑七年三个月，并处罚金6万元。
近日，广州互联网法院就审结了一起由“AI换脸”视频合成模板引发的侵权纠纷。一位知名短视频博主发现自己的汉服装扮视频被某科技公司擅自制成了付费“AI换脸”模板。法院审理后认定，该公司的行为侵犯了博主的肖像权。问题来了即便没有直接使用他人面部形象也能构成肖像权侵害吗？
只需要拍下一张照片，就能提取你的面部特征，然后“换脸”进行诈骗……9月11日，北京市通信管理局联合北京邮电大学、中国互联网协会，在北京邮电大学海淀校区开展网络安全宣传周系列活动。科技企业走进校园向学生进行网络安全科普宣传，现场演示高科技诈骗手段。“只需要拍下照片，就能立马换脸。
4月16日，蚂蚁数科在京发布深度伪造（Deepfake）综合防控产品ZOLOZ Deeper，以拦截用户刷脸过程中的“AI换脸”风险，目前已率先应用在身份安全领域。公开资料显示，ZOLOZ是蚂蚁数科的科技品牌，以生物识别技术见长，历经支付宝App等大规模场景验证。
您是否曾被AI合成内容的逼真度震惊？流畅的换脸视频、清晰的合成语音、精致的虚拟图片……由此衍生出来的“AI诈骗”“深度伪造”等违法侵权案件也层出不穷。近期，国家网信办起草的《人工智能生成合成内容标识办法》正征求意见，上述内容都将被打上“专属水印”，辨识“AI换脸”将更加直观。
如今，“AI（人工智能）换脸”图片和视频成为热门现象。娱乐之余，让人真假莫辨，风险与困扰也不少。记者调查发现，屡被曝光的“AI换脸”背后，从传播到制作再到后端环节，几乎都藏着生意。当前，包括网络平台、通信公司在内，已有一些技术和措施识别“换脸”，但也面临着“矛与盾”的考验。
近日，广州互联网法院审结了一起因“AI换脸”视频合成模板引发的纠纷案件。一位知名短视频博主发现，自己的汉服装扮视频被一家科技公司制成了付费“AI换脸”模板。该博主以侵犯肖像权为由，状告科技公司要求赔礼道歉，并赔偿5万元。为何不使用他人面部形象会侵害肖像权？
调查动机知名医生张文宏带货蛋白棒？不久前，某视频博主发布的视频中，张文宏医生强烈推销一款蛋白棒，让不少网友信以为真，一时销量近1200件。张文宏随后作出回应称，视频是AI合成的，“我在发现这事后立即投诉过那个AI合成的视频，但是它的账号一直在换，自己最后也没精力了。
3月4日，全国人大代表雷军在其个人微信公众号上公布了其准备的建议案。关于加强“AI换脸拟声”违法侵权重灾区治理，雷军提到，人工智能(AI)深度合成技术的快速发展，推动了“AI换脸拟声”在影视、广告、社交等领域广泛兴起，成为社会喜闻乐见、传播力强、易成热点的技术应用。
