来源:人民网 原创稿国内首个AI生成内容检测工具——AIGC-X官网截图。人民网北京3月1日电 (记者申佳平)从AI绘画、AI作曲到虚拟人,再到近期爆火的ChatGPT, 伴随人工智能生成内容(AIGC)技术发展加速,内容生产方式迎来巨大变革。
人工智能巨头开始进一步考量如何保证AI生成内容的真实性。当地时间5月7日,OpenAI发布一款图像检测分类器,能够区分非人工智能生成的图像和DALL-E 3生成的图像,能正确识别约98%的DALL-E 3生成图像。
随着大型语言模型被用于传播虚假信息、生成谣言等恶意目的,水印技术已成为防范这些风险的重要工具。为规范人工智能生成合成内容标识,国家互联网信息办公室近日就《人工智能生成合成内容标识办法(征求意见稿)》公开征求意见。
近日,国家网信办公布了《人工智能生成合成内容标识办法(征求意见稿)》(以下简称《征求意见稿》),并面向社会公开征求意见,意见反馈截止时间为10月14日。《征求意见稿》提出,人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。
随着AI技术的不断发展,其生成的文章、图片和视频作品越来越多,比如我们在刷短视频时,常常会看到这样的提示:内容疑似AI生成。每次看到这,有人难免产生疑问,平台是怎么识别出来的?肉眼看到的明明是真人啊,为啥怀疑是AI作品呢?一般情况下,单纯由AI生成的文章可能较难被直接识别出来。
·元数据或与数字图像文件相关的信息,可以提供内容的基本细节,例如照片的拍摄时间和地点等。目前,许多科技公司都支持使用这项技术在其产品中对AI生成内容进行某种形式的标记。但在找到一个可靠的解决方案之前,事实核查只能靠人工审核来弥补不足。
大皖新闻讯 连日来,知名模特叶凯薇被人利用AI换脸制作淫秽视频传播一事持续引发热议,也再次让AI换脸滥用引发的违法侵权行为受到关注。大皖新闻记者探访体验发现,网上能轻松找到相关应用软件,制作AI换脸视频,电商平台也有商家售卖此类软件,甚至宣称能做到“100%逼真”。