2024年8月，上海闵行的刘先生报案称，2个月前通过一则短视频结识了网友“焦女士”，双方迅速发展为恋人关系。随后，“焦女士”以开店、进货、家人做手术等理由向刘先生索要近20万元，并展示了“身份证”“家属病历”和“进货单”。然而，刘先生始终未见过“焦女士”本人，察觉被骗后报警。
新京报贝壳财经讯 3月27日，抖音安全中心发布消息称，去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
问题的关键在于，找出技术的负面价值，将其规范化，治理好。和迪丽热巴“接吻”、与刘亦菲“深情对视”、24小时AI主播带货、“赛博美女”、乘地铁的照片被“一键脱衣”……AI生成内容最近在网络中屡屡刷屏，似乎“有图有真相”的时代彻底结束了。
“这女孩真挺美的，算清纯美女。”“这女孩像明星，但这图肯定P过，皮肤跟陶瓷一样，磨皮太深。”当记者掏出两张AI绘制的美女，身边男性友人惊叹：“AI真是深得我心！”“原来是科技和狠活啊！”没错，在这个时代，什么都可以创造，什么都可以虚构。
之前人们还在嘲笑一些AI绘画智障，把萝莉画成肌肉男，然而短短两个月时间，AI就打了很多人的脸。AI画出来的作品已经进化到媲美真人的效果，以假乱真，下面这些图，如果不说是AI做的，你根本无法想象这是个假人。
金发碧眼美女，一口流利的中文谈论婚姻和中国话题，仿佛成了流量密码。“我们国家生产的许多产品都是中国制造，中国有五千年的历史，我对这个国家的热爱深厚。”屏幕上，一个所谓“俄罗斯美女”侃侃而谈，而这只是新京报贝壳财经记者以6元价格买到的“换脸视频”。
□游德福5月9日，抖音发布关于人工智能生成内容的平台规范暨行业倡议。其中提到，创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。
Al美女，一般指基于人工智能技术生成的虚拟形象，通常用于游戏、虛拟主播、虚拟现实等领域。在技术上，AI美女的生成通常需要使用深度学习等技术，利用海量的图像和数据进行训练，以产生逼真的人类面部特征和表情。
随着人工智能技术的迅猛发展，AI生成内容已越来越多出现在互联网上，然而对AI技术的不当使用也频频引起社会关注。3月26日，抖音安全中心发布不当利用AI生成虚拟人物的治理公告，指出将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
