新华社上海11月1日电 题：AI无界，法律有边新华社记者兰天鸣从精准地诊断疾病到辅助高难度手术，从帮助汽车无人驾驶到进行复杂的金融分析，从一键生成栩栩如生的图像场景到创造能与人们自然交流的虚拟偶像……“AI+”正广泛且深刻影响着千行百业和社会生活。
近日，新华社发文从多个方面对AI提出了批评，《警惕“AI污染”乱象》一文指出“去年以来，生成式人工智能在世界范围内掀起一波接一波的热潮，其颠覆性应用让许多行业和网民受益。然而，一块硬币有两面，伴随生成式人工智能而来的也有一些负面问题，由'信息垃圾'导致的'AI污染'越来越突出。
新华网北京12月9日电 题：AI技术不应用来造谣生事新华网记者田中全 张阳近期，浙江公安机关打掉一个MCN机构“网络水军”团伙。据调查，该团伙利用AI软件，拼接网络中误导性素材，剪辑成“原创”视频，并在多个平台发布，牟取非法流量返利。这种利用AI工具实施造谣的案件并不鲜见。
昨天，新华社一篇关于“AI声音滥用现象调查”的报道引发关注。从“张文宏医生”推销蛋白棒视频“走红”网络，后被本人“打假”，到多位配音演员称声音被AI“偷走”，公开维权……随着人工智能技术和语音大模型应用的发展，AI声音滥用的问题愈发显得突出。
2月21日,中央网信办发布2025年“清朗”系列专项行动整治重点。明确提出整治AI技术滥用乱象,突出AI技术管理和信息内容管理,强化生成合成内容标识,打击借AI技术生成发布虚假信息、实施网络水军行为等问题,规范AI类应用网络生态。1月7日,西藏日喀则市定日县突发6.8级地震。
□张川（吉首大学）2月21日，中央网信办发布2025年“清朗”系列专项行动整治重点，其中包含了整治AI技术滥用乱象：突出AI技术管理和信息内容管理，强化生成合成内容标识，打击借AI技术生成发布虚假信息、实施网络水军行为等问题，规范AI类应用网络生态。
新华社乌鲁木齐10月16日电 综述｜应对AI虚假信息，多国媒体加速构建“真实性”防线新华社记者人工智能（AI）在拓展创意边界、提升传播效能的同时，也带来虚假信息泛滥、知识产权侵权等隐忧，给国际传播生态建设带来新挑战。
来源：【濮阳日报】有MCN机构利用人工智能程序日产上千篇虚假新闻，导致大量不实信息在网上病毒式传播；某小说平台账号依靠AI“创作”，每日更新十几本电子书，行文却逻辑不通、辞藻空洞；医学论文因使用AI生成的虚假配图而被撤稿……当前，AI生成、伪造或篡改文本、图片、音频和视频的现象越
2025年“清朗”系列专项行动整治重点发布重点开展整治AI技术滥用等8项任务本报北京2月21日讯 记者刘欣 记者今天从中央网信办获悉，近年来，中央网信办持续部署开展“清朗”系列专项行动，集中时间、集中力量打击网上各类乱象问题，从严处置违规平台和账号，取得积极成效，形成有力震慑。
一些不法分子利用AI深度伪造新工具实施电信诈骗、散布虚假视频、激化社会矛盾，给安全领域带来了诸多风险依靠深度伪造技术工具，AI客服可以同时给上万人打电话，从事电信诈骗的危害性更强、数额更大通过法律加强对“事前（内容源头监管）—事中（诈骗快速查处）—事后（追偿、救济）”的全方位规制
新华社北京3月22日电 3月22日,《新华每日电讯》发表题为《套壳冒充？AI推广不应触法律红线》的评论。你以为用的是ChatGPT，其实只是“套壳AI”。前不久，上海市场监管部门查办了一起ChatGPT商业混淆案，当事人声称可提供ChatGPT服务，但消费者使用的却并非正品。
文 | 陈泽伟近日，AI（人工智能）与网络乱象挂上了钩，屡屡成为网络热点。例如，“造谣公司用AI一天写谣言7000篇”的话题热度很高。据警方调查，这家MCN机构通过具有语音交互功能的AI软件生成虚假文章，再上传到多个网络平台，最高峰一天能生成4000至7000篇。
新华社北京1月14日电 美国《华盛顿邮报》13日公布历时8个月的调查发现，称美国已有75家警察局确认在办案时使用人工智能(AI)技术的面部识别工具。然而，其中12个州的15家警察局仅凭这一项证据确定嫌疑人，已造成至少8人无辜被抓。
来源：半月谈 将AI技术用于流量变现，一天就能生成4000多篇文章，以致“造谣”后连发布者本人都不知道……江西南昌警方查处的一个网络谣言案，再次引发社会对AI造谣乱象的关注。此前，一则关于某地爆炸的消息在网络平台传播，内容不仅包括确切的时间和地点，文字下方还配有爆炸图片。
工人日报－中工网评论员韩韫超《甄嬛传》变身“枪战片”，《红楼梦》改成“武打戏”，孙悟空骑着摩托车扬长而去……据12月10日新华社报道，广电总局网络视听司日前发布《管理提示（AI魔改）》，指出近期AI“魔改”视频以假乱真、“魔改”经典现象频发，要求各相关省局督促辖区内短视频平台排查
新华社北京1月10日电 多名作家指控美国“元”公司在其首席执行官马克·扎克伯格批准下，使用盗版书籍来训练人工智能(AI)系统。据路透社9日报道，塔奈希西·科茨、萨拉·西尔弗曼等作家2023年就曾起诉“元”公司，称这家科技巨头滥用他们的作品来训练其Llama大型语言模型。
在建社87周年之际，新华社联合搜狗7日在第五届世界互联网大会上发布全球首个合成新闻主播——“AI合成主播”，运用最新人工智能技术，“克隆”出与真人主播拥有同样播报能力的“分身”。这不仅在全球AI合成领域实现了技术创新和突破，更是在新闻领域开创了实时音视频与AI真人形象合成的先河。
2月19日，在新华社新媒体中心与搜狗公司战略合作签约仪式上，搜狗公司与新华社新媒体中心联合发布了全球首个站立式AI合成主播，新的AI合成主播将从过去的“坐着播新闻”升级成结合肢体动作的“站立式播报”，标志着“搜狗分身”技术再次取得突破。
