据《参考消息》网站25日援引美联社23日报道，美国政府正在敦促科技行业和金融机构关闭越来越庞大的利用人工智能（AI）制作色情图像的市场。报道称，新出现的生成式人工智能工具可以轻松将一个人的肖像转换成色情图像，便于这些逼真的深度伪造图像在聊天室或者社交平台上传播。
埃隆·马斯克最新的创新——Grok聊天机器人，因其最近的功能引发了重大争议。该功能允许用户在X平台上生成和分享AI生成的图像。这一新功能使用户能够基于文本提示创建高度逼真的图像，导致涉及高层政治人物的有问题内容激增。
今年五一假期，一个名为“Remini”的AI修图App火遍全网。用户只需要上传一张照片，就可以利用AI技术生成对应的黏土滤镜风格的图像，还能实现表情神韵的高度还原。于是，这种“黏土AI”风格的图像刷爆了今年的五一假期旅游照片“大赛”，并在多个社交平台走红。
大皖新闻讯 近日，知名模特叶凯薇发视频称，其被人利用AI换脸制作淫秽视频，并大量传播，造成严重困扰，目前已经收集证据并报警。3月12日，大皖新闻记者从警方处获悉，经鉴定，该视频确系拼凑伪造，正在进一步调查中。
封面新闻记者 边雪近日，全球追的音乐巨星泰勒·斯威夫特（Taylor Swift）成为AI生成工具的受害者，在极短时间内，国外社交平台涌现大量以泰勒·斯威夫特为主角的“不雅照片”，浏览量飙升千万。国外社交平台涌现大量以泰勒·斯威夫特为主角的“不雅照片”。
来源：环球时报 【环球时报综合报道】英国司法部宣布，利用生成式人工智能（AI）制作“深度伪造”色情图像的人将被定罪。 据英国政府网站16日消息，根据最新定罪标准，任何未经同意创作这些可怕色情图像的人，无论是否分享，都将被视为犯罪并处以无上限的罚款。
最近，聊天机器人程序ChatGPT爆火“出圈”的同时，人工智能在图像生成领域的运用也进一步升级，社交平台上出现了大量AI写实风格的肖像图，其堪比精修照片的光影、层次、肌理处理，打破了“二次元”和“三次元”的边界，也引发了“有图不再有真相”的讨论。
近日，知名传染病学专家张文宏直播卖蛋白棒的视频，让不少老人信以为真，疯狂买单，橱窗商品已售出上千件。但最终发现这是一起利用AI换脸技术合成的侵权视频。张文宏等名人成为被AI技术假冒的“躺枪者”，并非个案。
AI技术的发展初衷是为了推动生产力的进步，提高人类生活的便利性。然而，随着技术的普及和应用范围的扩大，一些不法分子开始寻找技术漏洞，将AI技术用于非法目的。AI技术的滥用，不仅损害了受害者的个人形象，更严重地侵犯了人们的隐私权和名誉权。
“丑得好上头，但真的好可爱!” 继妙鸭相机之后，又一个AIGC大爆款出现了。“五一”期间蹿红的黏土滤镜，已成为时下最热门的社交元素，从微博、小红书蔓延到了朋友圈。AI图像软件Remini也借此冲上了苹果应用商店App Store应用榜第一名。
极目新闻 屈旌近日，知名模特叶凯薇发视频公开控诉，称其被人利用AI换脸制作淫秽视频，并大量传播，造成严重困扰，目前已经收集证据并报警，引发关注。记者从警方处获悉，经鉴定，该视频确系拼凑伪造，正在进一步调查中。
《红楼梦》变成“武打戏”《甄嬛传》则成了“枪战片”近日多部国产电视剧遭遇AI“魔改”引发热议网传AI“魔改”画面在“魔改”视频中——柔弱的林黛玉变成了林教头，还玩起了“倒拔垂杨柳”；甄嬛手持冲锋枪，大杀四方......
央广网北京3月30日消息（记者黄玉玲）近日，广州一女子在地铁上的照片被AI“一键脱衣”，并在网上广泛传播，引发网友关注。事实上原图中该女子衣着正常，完全没有任何不妥之处，但却被有心之人用AI软件“一键脱衣”并全网散播。
