来源：扬子晚报网 近日，网络上传播起一则“苏州金鸡湖有游艇女仆party”的消息，网传宣传海报显示，参加活动的收费是3000元一位，将有一对一女仆陪身等服务。而该消息在1月19日被网友扒出，所谓的“女仆party”可能是全国第一起AI绘图诈骗。
AI生成的“俄罗斯美女”。图/短视频平台截图一段时间以来，国内短视频平台上的“俄罗斯美女”越来越多。镜头里的她们美丽、大方、开放，迫切地想要嫁到中国，不收一分钱彩礼……但这些所谓的“俄罗斯美女”，只不过是一群由AI（人工智能）生成的面孔而已。
封面新闻记者 陈彦霏上传两张照片或一张双人照，就可以让照片中的两人“以假乱真”般亲吻。近日，“AI接吻”技术引起争议，不少网友发出的视频中，出现唐僧和女儿国国王、孙悟空和白骨精、高启兰和徐江等拥抱接吻的恶搞低俗视频。
新京报贝壳财经讯 3月27日，抖音安全中心发布消息称，去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
金发碧眼美女，一口流利的中文谈论婚姻和中国话题，仿佛成了流量密码。“我们国家生产的许多产品都是中国制造，中国有五千年的历史，我对这个国家的热爱深厚。”屏幕上，一个所谓“俄罗斯美女”侃侃而谈，而这只是新京报贝壳财经记者以6元价格买到的“换脸视频”。
12月15日，“微信珊瑚安全”微信公众号发布关于打击利用AI仿冒知名人士进行营销宣传的公告。公告指出，微信一直致力于打造安全、健康、绿色的平台生态环境。近期有媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。
随着人工智能技术的迅猛发展，AI生成内容已越来越多出现在互联网上，然而对AI技术的不当使用也频频引起社会关注。3月26日，抖音安全中心发布不当利用AI生成虚拟人物的治理公告，指出将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
【模特叶凯薇曝被Ai换脸制作淫秽视频 将起诉传播散布谣言同行】3月13日，上海一百万粉丝模特叶凯薇自述，其于2024年遭人利用AI换脸技术制作淫秽视频并大量传播，同行及摄影师在传播过程中还对其进行各种污蔑，引发谣言。
3月27日，“抖音安全中心”微信公号发布《抖音关于不当利用AI生成虚拟人物的治理公告》：去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
