“抖音安全中心”微信公号3月27日发布抖音关于不当利用AI生成虚拟人物的治理公告。公告称，去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
利用AI生成“小姐姐”后在短视频平台引流，再用同一套话术“剧本”，对全国各地近千名男性实施“流水化”诈骗。2月24日，记者从上海市公安局闵行分局获悉，近日，上海警方破获一起以“恋爱交友”为名的电信网络诈骗案，捣毁一个10人诈骗团伙，涉案资金200余万元。
金发碧眼美女，一口流利的中文谈论婚姻和中国话题，仿佛成了流量密码。“我们国家生产的许多产品都是中国制造，中国有五千年的历史，我对这个国家的热爱深厚。”屏幕上，一个所谓“俄罗斯美女”侃侃而谈，而这只是新京报贝壳财经记者以6元价格买到的“换脸视频”。
