前不久，内蒙古包头警方就曾通报，有骗子利用AI换脸和拟声技术佯装熟人实施诈骗，福州市某公司法人代表郭先生10分钟内就被骗走430万元。另一起发生在安徽安庆经济开发区的案件中，诈骗分子仅使用一段9秒钟的AI换脸视频，就从受害人处骗走了245万元。这两起典型案例引发了广泛关注和讨论。
沈 阳 郝 敏 姚 佳编者的话：近日，由人工智能生成的美国歌手泰勒·斯威夫特说一口流利的中文，以及一些中国明星说一口流利英语的视频在网络走红。随着深度学习技术取得巨大进展，“AI换脸”技术作为成果之一，已经展现出广泛的应用潜力。与此同时，其衍生出的种种风险也受到关注。
文｜胡炜（新京报传媒研究院）在当下，AI创作正是风口，不少媒体人担心有人利用AI生成（伪造）新闻现场照片甚至视频。果然，怕什么就来什么：近日，在西藏日喀则市定日县发生的地震灾害牵动人心，就在大家为灾区揪心、全力救援之时，一些AI生成的虚假影像在社交平台上广泛传播，引发误导。
