“显示屏、键盘、鼠标等电脑组件乱七八糟地堆放在床上，私人物品也都随意摆放着。”河北省高阳县公安局民警告诉记者，30岁出头的李豪始终和父母居住在一起，而他的房间是整座房屋中最脏乱的。在李豪的电脑中，高阳县公安局民警发现了他利用AI技术制作的1400余条淫秽视频。
近日，四川绵阳市中级人民法院发布了2023年十大典型案例，其中平武县人民法院审理的“田某某隔空猥亵儿童案”入选。在该案中，田某某通过社交软件添加未成年女性网友后，胁迫未成年女孩向其发送隐私部位照片、进行裸聊等，法院认定其行为已构成猥亵儿童罪，依法判处田某某有期徒刑二年六个月。
恪守边界、尊重权益，才能共同营造一个健康、文明、和谐的网络环境。微博截图彩云网评特约评论员 集祥国庆假期期间，短视频平台上出现了大量“雷军AI配音”的恶搞视频。在视频中，“雷军”锐评了堵车、假期等热门话题，还涉及捐款给某大学、用小米SU7撞人、远程控制小米手机进行爆炸等。
“AI换脸”新型诈骗频发。添加好友后，“曾某某”发起短暂的视频通话，利用“Al 换脸”技术伪造了其本人正在开会的假象，待挂断视频通话后，对李先生表示其正在开会，不方便通话，并称有重要事情要交代，让李先生添加其QQ号。
“今天全靠你们，不然我这被骗的10万元肯定就石沉大海了。”7月19日，家住石马河的唐女士遭遇了“AI”换脸诈骗，幸好她报警及时，民警对其转账给骗子的钱成功进行止付。当天13时许，唐女士收到一条自称是亲戚李某的短信，说有急事找唐女士。
只需一张照片，经过深度合成、算法处理，任何人都可以成为视频中的主人公……“AI换脸”频繁出现在诸多“恶搞”视频中。4月7日，杭州市萧山区检察院曝光的一个“女神群”，就与这项技术相关，引发广泛关注。现在由“AI换脸”引发的案件多吗？它在什么情况下会触及法律底线？
□张婷（西南科技大学）近日，网红特效师洪某通过AI换脸技术、利用电脑后期制作软件，合成了自己与某知名女明星的接吻视频后在网络上公开发布，受到众多网友关注，引发热议。视频发出后不久，洪某在社交平台上表示自己被该女明星粉丝抓伤“破相”，事件再次引发热议。
科技的发展日新月异，当下，已经被称为AI时代，AI换脸、AI拟声技术悄然走进了我们的生活。然而，恶作剧、诈骗、侵权等事件频出，使得人工智能技术被蒙上了一层阴影。近日，黑龙江省大庆市一位女大学生反映，她的照片被同学制作成搞笑视频发到了微信群里，让她出尽了洋相。
今年以来，ChatGPT和GPT-4等技术的应用成为信息科技领域的热点，引起公众对AI技术的广泛关注和热情。昨日，中国互联网协会发文称，伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为屡见不鲜。
（央视财经《第一时间》）今年“3·15”晚会曝光了“AI换脸”类诈骗的案例。受害人看到了亲戚朋友熟悉的样貌而上当，这些以假乱真的视频，都是通过“AI换脸”技术伪造的。记者近日采访了一家网络安全企业，他们协助公安部门破获了多起利用“AI换脸”伪造色情视频进行敲诈勒索的案件。
来源：检察日报正义网 ●洪某在未经同意的情况下，通过合成技术这样的伪造方式，侵害了视频中被“换脸”演员的肖像权。 ●洪某所实施的“换脸”行为，如果对被“换脸”演员及其合作演员的品德、才能等方面的社会评价明显造成负面影响，就构成了对被“换脸”演员及其合作演员名誉权的侵犯。
