来源：人民网 原创稿国内首个AI生成内容检测工具——AIGC-X官网截图。人民网北京3月1日电 (记者申佳平)从AI绘画、AI作曲到虚拟人，再到近期爆火的ChatGPT， 伴随人工智能生成内容(AIGC)技术发展加速，内容生产方式迎来巨大变革。
人工智能巨头开始进一步考量如何保证AI生成内容的真实性。当地时间5月7日，OpenAI发布一款图像检测分类器，能够区分非人工智能生成的图像和DALL-E 3生成的图像，能正确识别约98%的DALL-E 3生成图像。
随着大型语言模型被用于传播虚假信息、生成谣言等恶意目的，水印技术已成为防范这些风险的重要工具。为规范人工智能生成合成内容标识，国家互联网信息办公室近日就《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见。
近日，国家网信办公布了《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《征求意见稿》），并面向社会公开征求意见，意见反馈截止时间为10月14日。《征求意见稿》提出，人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。
随着AI技术的不断发展，其生成的文章、图片和视频作品越来越多，比如我们在刷短视频时，常常会看到这样的提示：内容疑似AI生成。每次看到这，有人难免产生疑问，平台是怎么识别出来的？肉眼看到的明明是真人啊，为啥怀疑是AI作品呢？一般情况下，单纯由AI生成的文章可能较难被直接识别出来。
·元数据或与数字图像文件相关的信息，可以提供内容的基本细节，例如照片的拍摄时间和地点等。目前，许多科技公司都支持使用这项技术在其产品中对AI生成内容进行某种形式的标记。但在找到一个可靠的解决方案之前，事实核查只能靠人工审核来弥补不足。
大皖新闻讯 连日来，知名模特叶凯薇被人利用AI换脸制作淫秽视频传播一事持续引发热议，也再次让AI换脸滥用引发的违法侵权行为受到关注。大皖新闻记者探访体验发现，网上能轻松找到相关应用软件，制作AI换脸视频，电商平台也有商家售卖此类软件，甚至宣称能做到“100％逼真”。
