AI技术的发展初衷是为了推动生产力的进步，提高人类生活的便利性。然而，随着技术的普及和应用范围的扩大，一些不法分子开始寻找技术漏洞，将AI技术用于非法目的。AI技术的滥用，不仅损害了受害者的个人形象，更严重地侵犯了人们的隐私权和名誉权。
□郭元鹏随着AI技术的深度发展，“AI换脸”“AI脱衣”工具变得常见。一些不法分子将歪主意打到了造“黄谣”，甚至威胁、诈骗上。4月19日，北京市海淀区人民法院审理了一起使用“AI去衣”软件制作淫秽物品案。
“Stable Diffusion 完全免费开源，它的代码都在 GitHub 上公开，在遵循原项目采用的 Open RAIL-M 许可证的前提下，任何人都可以拷贝使用，生成任何他们想要的图像，甚至调整系统开发独立的应用或服务。最近，人工智能技术在色情内容的制作上取得了突破，这事儿一出，网上可就炸开了锅。
近日，#男子用AI伪造学生同事近7000张裸照#话题冲上热搜。犯罪嫌疑人白某某，原本是一家互联网公司的技术员，他用AI“一键去衣”技术伪造淫秽图片，每张1.5元卖出。图片涉及女性人数多，包括学生、教师、同事。目前白某某已被提起公诉。
日前，中央网信办开展为期2个月的“清朗·2023年暑期未成年人网络环境整治”专项行动，整治重点聚焦包括“AI换脸”“AI绘图”等在内的新技术新应用风险问题。南都记者调查发现，随着AI技术的普及，其带来的隐患在网络中广泛存在。
