据《参考消息》网站25日援引美联社23日报道，美国政府正在敦促科技行业和金融机构关闭越来越庞大的利用人工智能（AI）制作色情图像的市场。报道称，新出现的生成式人工智能工具可以轻松将一个人的肖像转换成色情图像，便于这些逼真的深度伪造图像在聊天室或者社交平台上传播。
“Stable Diffusion 完全免费开源，它的代码都在 GitHub 上公开，在遵循原项目采用的 Open RAIL-M 许可证的前提下，任何人都可以拷贝使用，生成任何他们想要的图像，甚至调整系统开发独立的应用或服务。最近，人工智能技术在色情内容的制作上取得了突破，这事儿一出，网上可就炸开了锅。
AI技术的发展初衷是为了推动生产力的进步，提高人类生活的便利性。然而，随着技术的普及和应用范围的扩大，一些不法分子开始寻找技术漏洞，将AI技术用于非法目的。AI技术的滥用，不仅损害了受害者的个人形象，更严重地侵犯了人们的隐私权和名誉权。
来源：环球时报 【环球时报综合报道】据西班牙《20分钟报》20日报道，在西班牙埃斯特雷马杜拉的阿尔门德拉莱霍市，有人恶意传播通过人工智能（AI）技术处理过的镇上未成年女孩们的假裸照。此事在西班牙社会引起巨大反响，西班牙警方已介入调查。
Unstable Diffusion作为目前最大的AI色情内容生成平台，已经筹集了超过2.6万美元的捐款，购买了用于训练AI的硬件设备，并创建了超过3000万张照片的数据集。“在这个平台上，创造力可以自由发挥，没有太多限制。我们相信艺术应该是无审查的。”
日前，中央网信办开展为期2个月的“清朗·2023年暑期未成年人网络环境整治”专项行动，整治重点聚焦包括“AI换脸”“AI绘图”等在内的新技术新应用风险问题。南都记者调查发现，随着AI技术的普及，其带来的隐患在网络中广泛存在。
