近日，国家网信办公布了《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《征求意见稿》），并面向社会公开征求意见，意见反馈截止时间为10月14日。《征求意见稿》提出，人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。
号称可提供ChatGPT服务，实际是冒牌AI；视频电话中熟悉的“亲友”，是不法分子AI换脸模拟而成；为博取流量，用AI技术编造虚假谣言，流量变“流毒”……随着人工智能的发展迭代，生成式AI正以前所未有的速度重塑着日常生活，但由此衍生出的新骗局、新套路也在刷新人们对风险防范的认知。
AI发展快，系紧“安全带”（“融”观中国）——“人工智能与信息保护”系列报道之二AI“换脸”实施诈骗、AI伪造图片传播谣言、AI“复活”逝者引发争议……随着人工智能技术的不断发展，AI深度伪造的例子屡见不鲜。
近日，一篇发表在权威期刊《模式》上的文章，犹如一颗重磅炸弹，在人工智能领域掀起了轩然大波。这篇文章不仅总结了先前的多项研究，更是以确凿的证据揭示了一个令人震惊的事实:一些AI系统已经学会了欺骗人类，即便这些系统曾经过精心的训练，被期望展现出诚实和可信赖的特质。
原创 于旸 科普中国2024 年 12 月初，网络上出现了一段带货视频，在视频中卖力地推销某食品的居然是国家传染病医学中心主任、复旦大学附属华山医院感染科主任张文宏医生。不少网友出于对张文宏医生的信任，不仅自己购买，还积极地把视频转发到家族群。
来源：上海辟谣平台 6月20日，上海警方通报表示，两名品牌营销人员为蹭热度，编造了“中山公园地铁站捅人”等不实信息，相关人员已被警方行政拘留。通报中，有个细节引人注意：一名造假者使用了AI软件生成视频技术，编造了地铁行凶的虚假视频等不实信息。
界面新闻记者 | 于浩界面新闻编辑 | 文姝琪你的上司给你发来视频会议，会议中还有多名财务人员在场。会议中，上司表示要进行机密交易，要求你向某个银行户口转账。会议中的高管面容、声音均与真人一致，你会心生疑虑吗？ 这是今年年初某跨国公司香港分行职员真实经历的视频骗局。
近年来，随着人工智能技术的日益火爆，在网络上编造和传播谣言的成本也变得更低。利用AI合成技术编造谣言，甚至生成逼近真实的图片、音视频，颠覆了“有图就有真相”的常规认知，让人难辨真假。今年1月，某网络平台出现一条关于“西安爆炸”的消息。
今年以来，ChatGPT和GPT-4等技术的应用，成为了信息科技领域的热点，引起公众对AI技术的广泛关注和热情。但伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频，进行诈骗、诽谤的违法行为屡见不鲜。
潮新闻客户端 编辑 王彬 张瑜 【编者按】从新闻到见解，字里行间读懂社会万象。有思想有观点，智慧碰撞把握时代脉搏。让我们一起《读端》，一起“潮”。本期嘉宾是浙江大学哲学学院教授、博士生导师林玮。（视频由AI共同创作）假新闻，最近你碰到过吗？
西藏日喀则市定日县发生的地震灾情牵动人心，当地流传出的各种救援画面，更是令人揪心不已。然而，却有一些不真实的内容趁机浑水摸鱼，利用人们的同情心进行误导、吸引流量。某视频平台上一位博主发布的照片显示：一个戴帽子的小孩被压在倒塌的建筑物下，全身铺满尘埃。
随着人工智能(AI)技术的发展AI在文本生成、图片创作等方面有着广泛应用输入几个关键词即可快速生成一张画或一篇文章一些网民为博眼球、蹭热度将AI技术用以编“伪消息”、造“假新闻”以此来获得网民关注和点赞量进而实现流量变现今天，我们就来一起学习面对网上疑似利用AI造谣时如何增强“免
近年来，AI技术发展迅速，成为全球科技领域的热点。AI已经从单纯的学术研究发展成为改变人类生活方式的重要力量。然而，却有一些别有用心之人将其变为造谣、敛财的工具。真实案例2024年8月，一则令人震惊的消息在网络上迅速传播。“南平松溪县遭遇严重大风袭击，造成枣岭街一人死亡”。
【来源：珠海特区报】□江德斌“自2025年1月1日起，宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”如果你通过AI咨询“多大年纪的老年人在宁波可以免费乘坐公交”相关问题，可能会获得这样的回答。然而，这却是一条彻头彻尾的假消息。
AI技术的发展是今年上半年的科技热点，但也有人打起了AI的歪主意。5月4日，微博平台上一名博主利用AI技术合成假视频，称缅甸邮轮上存在器官移植手术室。视频一经放出就引来了一大波流量，一度冲上微博热搜榜。
