据《参考消息》网站25日援引美联社23日报道，美国政府正在敦促科技行业和金融机构关闭越来越庞大的利用人工智能（AI）制作色情图像的市场。报道称，新出现的生成式人工智能工具可以轻松将一个人的肖像转换成色情图像，便于这些逼真的深度伪造图像在聊天室或者社交平台上传播。
□张婷（西南科技大学）近日，网红特效师洪某通过AI换脸技术、利用电脑后期制作软件，合成了自己与某知名女明星的接吻视频后在网络上公开发布，受到众多网友关注，引发热议。视频发出后不久，洪某在社交平台上表示自己被该女明星粉丝抓伤“破相”，事件再次引发热议。
AI技术的发展初衷是为了推动生产力的进步，提高人类生活的便利性。然而，随着技术的普及和应用范围的扩大，一些不法分子开始寻找技术漏洞，将AI技术用于非法目的。AI技术的滥用，不仅损害了受害者的个人形象，更严重地侵犯了人们的隐私权和名誉权。
2020年，浙江杭州的虞某接触了“AI换脸”软件。为吸引流量，他利用该软件制作大量淫秽视频并传播，被换脸的有不少是女明星。虞某声称，“只要能看到脸的都能换。”有人甚至要定制暗恋女生的换脸视频。最终，虞某犯制作、传播淫秽物品牟利罪，被判有期徒刑七年三个月，并处罚金6万元。
昨日，一则“涉黄AI换脸案”的新闻，冲上热搜有人将涉黄视频AI换脸成暗恋女生2020年浙江杭州的虞某接触了“AI换脸”软件为吸引流量他利用该软件制作大量淫秽视频并传播据虞某供述为了吸引更多的关注和流量他在社交软件上创建了“浏览群”和“私人定制群”“浏览群”主要用来传播“AI换脸”
英国司法部宣布，利用生成式人工智能（AI）制作“深度伪造”色情图像的人将被定罪。 据英国政府网站16日消息，根据最新定罪标准，任何未经同意创作这些可怕色情图像的人，无论是否分享，都将被视为犯罪并处以无上限的罚款。假如这些图像被广泛传播，始作俑者可能将入刑坐牢。
21世纪经济报道记者 钟雨欣 北京报道利用AI“涉黄”问题已引发多个国家关注。据英国政府网站消息，利用生成式人工智能（AI）制作“深度伪造”色情图像的人将被定罪。根据最新定罪标准，任何未经同意创作这些可怕色情图像的人，无论是否分享，都将被视为犯罪并处以无上限的罚款。
“Stable Diffusion 完全免费开源，它的代码都在 GitHub 上公开，在遵循原项目采用的 Open RAIL-M 许可证的前提下，任何人都可以拷贝使用，生成任何他们想要的图像，甚至调整系统开发独立的应用或服务。最近，人工智能技术在色情内容的制作上取得了突破，这事儿一出，网上可就炸开了锅。
据《法治日报》报道，一段时间以来，不少未成年人的家长饱受AI剧情聊天软件困扰。一些打着“角色扮演”等旗号的AI剧情聊天应用，在吸引未成年人的同时，也悄然滋生了一些灰色地带。在部分AI剧情聊天软件的对话中，出现了色情擦边、语言暴力以及侮辱用户的内容。
