号称可提供ChatGPT服务，实际是冒牌AI；视频电话中熟悉的“亲友”，是不法分子AI换脸模拟而成；为博取流量，用AI技术编造虚假谣言，流量变“流毒”……随着人工智能的发展迭代，生成式AI正以前所未有的速度重塑着日常生活，但由此衍生出的新骗局、新套路也在刷新人们对风险防范的认知。
数字人成核心生产力？作者／ IT时报记者 孙永会编辑／ 钱立富 孙妍“新年，你有什么心愿和梦想要实现吗？今天的新春走基层，我们走进山里的足球队……”画面中，主播小媛端坐于主播台，字正腔圆地播报新闻，眨眼、抬手等动作流畅，神情也比较自然。
近日，国家网信办公布了《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《征求意见稿》），并面向社会公开征求意见，意见反馈截止时间为10月14日。《征求意见稿》提出，人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。
记者在短视频平台搜索发现，不少非节目官方所发布的切片里夹藏大量“私货”，视频主通过AI技术更换专家语音和字幕，将涉及体重管理、祛湿等保健类商品经过包装成功实现“名人带货”。加句台词综艺切片包装出明星代言“上当受骗了！没想到视频切片里‘专家推荐说辞’居然是AI造假。
【影视锐评】作者：曹凌霄（中国文艺评论〔浙江大学〕基地主任助理）科技发展使影视表演从运作流程到表现形式都发生了变革。比如，虚拟拍摄技术使制作团队在拍摄前可以实时预演重要片段，帮助演员了解导演想要的视觉效果，提前规划走位、表情、动作幅度等细节。
沈 阳 郝 敏 姚 佳编者的话：近日，由人工智能生成的美国歌手泰勒·斯威夫特说一口流利的中文，以及一些中国明星说一口流利英语的视频在网络走红。随着深度学习技术取得巨大进展，“AI换脸”技术作为成果之一，已经展现出广泛的应用潜力。与此同时，其衍生出的种种风险也受到关注。
21世纪经济报道记者肖潇 北京报道越来越多杀猪盘在和生成式AI“联姻”，让爱情骗局更逼真。10月14日，香港警方表示捣毁了一个诈骗窝点，诈骗者利用深度伪造技术换脸成年轻女性，诱使受害者投资虚拟货币产品，涉案金额超过3.6亿港元。“杀猪盘”是近年高发的一种诈骗形式。
近日，音乐博主“麦田农夫”通过专业软件进行分析，质疑知名乐队五月天在上海演唱会的音频中部分歌曲为假唱或真假混唱。12月4日，相信音乐公司发表声明称，“五月天在巡回演出中不存在任何假唱行为”，并表示正积极配合相关执法部门开展调查工作。
每经记者：宋美璐 每经编辑：张海妮福州某科技公司法定代表人9分钟被AI换脸骗430万元的风波刚过，又有安徽何先生9秒被换脸骗走245万元。另一边，直播间中，换上杨幂、迪丽热巴等明星脸的主播出现在直播间带货，让观众真假难辨。
今年全国两会期间，靳东、张文宏等多位代表委员接连发声，呼吁大家关注滥用AI技术的违法侵权行为，相关话题引发网友热议。近年来，“AI换脸”在影视、社交等领域广泛兴起，成为社会喜闻乐见、传播力强的技术应用。
