人工智能（AI）生成合成内容的逼真程度已经让普通人难以辨别。多方人士曾提议，加快规范AI生成合成内容。“内容标识”是目前国际上较为通用的做法。日前，国家网信办起草的《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《办法》），面向社会公开征求意见。
极目新闻评论员 文清蔓实习生 王金瑞您在刷视频的时候，有没有注意到一些视频旁边标着“本视频为合成内容”，这是什么意思呢？当前，人工智能生成合成内容的逼真程度真假难辨。日前，国家网信办起草的《人工智能生成合成内容标识办法（征求意见稿）》，正面向社会公开征求意见。
人工智能巨头开始进一步考量如何保证AI生成内容的真实性。当地时间5月7日，OpenAI发布一款图像检测分类器，能够区分非人工智能生成的图像和DALL-E 3生成的图像，能正确识别约98%的DALL-E 3生成图像。
·狭义上讲，我们可能需要某种形式的超级智能。如果你有一个代理，你可以说，“嘿，我希望你去开发一种治疗癌症的方法，一组可以治愈这一系列癌症的化合物或mRNA疫苗。”如果事情能做到，我认为你会想要的。微软首席技术官凯文·斯科特。
当地时间7月21日，美国白宫发布公告称，拜登总统在白宫召集了七家人工智能头部企业——亚马逊、Anthropic、谷歌、Inflection AI、Meta、微软和OpenAI，并宣布这七家公司已作出自愿性承诺，以帮助实现人工智能技术的安全、可靠和透明的发展。
中新网北京10月24日电(记者 孙自法)国际著名学术期刊《自然》最新发表一篇人工智能(AI)研究论文称，研究人员开发出一种能为AI大语言模型(LLM)生成的文本添加水印的工具，或能提高对合成内容的鉴别和追溯能力。
来源：澎湃新闻 ·这些公司同意进行安全测试，部分由独立专家进行；对偏见和隐私问题进行研究；与政府和其他组织共享有关风险的信息；开发应对气候变化等社会挑战的工具；采取识别AI生成材料的透明度措施。 ·七家公司均是自愿签署协议，如果不履行承诺，目前不会产生任何重大法律后果。
最新一期《自然》杂志发表的一篇论文称，谷歌深度思维团队开发了一种能为大语言模型生成文本添加水印的工具，可提高对合成内容的鉴别和追溯能力。大语言模型（LLM）是广泛使用的人工智能（AI）工具，能为聊天机器人、文章写作和其他目的生成文本。
9月14日，国家网信办发布《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《征求意见稿》）。提出人工智能生成合成内容应当添加显式标识和隐式标识，且对人工智能生成合成内容服务提供者（以下简称“服务提供者”）、网络信息内容传播平台、互联网应用程序分发平台等均提出相应合规要求。
刘兴亮随着人工智能技术的突破，特别是DeepSeek等智能大模型的崛起，AI已逐步融入人们的日常生活与工作。然而，AI技术在带来便利的同时，也催生了一系列社会问题，例如论文造假、换脸欺诈等违规行为。这些问题可能加剧虚假信息的传播，甚至对社会稳定造成威胁。
数据是个宝数据宝炒股少烦恼数字水印技术将迎来国家标准，国内已要求AI生成内容需添加数字水印。日前，全国网络安全标准化技术委员会就国家标准《信息安全技术 数字水印技术实现指南》（以下简称“标准”）公开征求意见。
◎本报记者 吴叶凡近年来，人工智能（AI）技术推动生产力快速发展，但同时也因技术滥用导致各种问题。为监督AI技术使用，如今市面上不乏各类用于检测AI生成内容（AIGC）的工具，如普林斯顿大学学生开发的GPTZero、斯坦福大学研究团队推出的DetectGPT等。
