AI发展快，系紧“安全带”（“融”观中国）——“人工智能与信息保护”系列报道之二AI“换脸”实施诈骗、AI伪造图片传播谣言、AI“复活”逝者引发争议……随着人工智能技术的不断发展，AI深度伪造的例子屡见不鲜。
随着AI于各界卷起浪潮拜师AI也成为了爱学人士的新风尚但作为“老师”的AI是否完全值得依赖？AI化身私人老师解答千万问题最近，西南大学大三学生董力热衷于拍下数学题发给DeepSeek：“它不仅能给我准确的回答，还能给我较为详细的解析。
记者在短视频平台搜索发现，不少非节目官方所发布的切片里夹藏大量“私货”，视频主通过AI技术更换专家语音和字幕，将涉及体重管理、祛湿等保健类商品经过包装成功实现“名人带货”。加句台词综艺切片包装出明星代言“上当受骗了！没想到视频切片里‘专家推荐说辞’居然是AI造假。
AI技术正被频频用来作为造谣黑手，让“造谣一张嘴，辟谣跑断腿”的现实性困难，再度凸显。公安部网安局在14日早间发布的一起公告显示，近期在互联网上广为流传的“顶流明星赌博输10亿”的信息，其实是一则由AI技术编造的、彻头彻尾的谣言。
想象一下，向人工智能(AI)聊天机器人询问一个不存在的历史事件，比如“谁赢得了1897年美国和南极洲之间的战斗？”即使没有这样的战斗，AI聊天机器人也可能会提供一个虚构的答案，例如“1897年的战斗是由美国赢得的，约翰·多伊将军带领部队取得了胜利。
经济日报 “我用AI给出的理财建议，居然真的赚到钱了！”近日，在某社交平台上，一位网友分享了自己利用人工智能进行理财的故事。记者调查发现，今年以来，有不少人开始尝试在理财、投资等场景中采纳人工智能给出的建议。
人民网北京10月13日电 (记者罗知之)当前，AI技术的广泛应用为社会公众提供了个性化、智能化的信息服务，也给网络诈骗带来可乘之机。如不法分子通过面部替换、语音合成等方式，制作虚假图像、音频、视频，仿冒他人身份实施诈骗，侵害消费者合法权益。
近年来，随着人工智能技术的日益火爆，在网络上编造和传播谣言的成本也变得更低。利用AI合成技术编造谣言，甚至生成逼近真实的图片、音视频，颠覆了“有图就有真相”的常规认知，让人难辨真假。今年1月，某网络平台出现一条关于“西安爆炸”的消息。
快速进化的AI生成技术，让生成假照片、假图像，甚至视频换脸都更加容易，且真假难辨。尤其是AI合成的假视频甚至冒充名医、名人进行虚假宣传，对公众实施诈骗。中国工程院院士、天津中医药大学名誉校长张伯礼也是受害者之一。
打出一行文字，上面写着“一个华丽的珊瑚礁纸艺世界，充满了色彩缤纷的鱼类和海洋生物”。随后，一个长达20秒的视频由此生成，镜头从巨大的纸质珊瑚礁开始，依次转向鱼群、海龟和海马，在结尾处还可以看到纸质海马的尾部在微微晃动。该技术平台被称为“Sora”。
文/李戈（作者李戈，荔枝新闻特约评论员，评论员；本文系荔枝新闻客户端、荔枝网独家约稿，转载请注明出处。）1月7日，西藏日喀则市定日县发生的6.8级地震，再次让人们感受到了自然力量的无情和生命的脆弱，一张“被压废墟下的小男孩”图片引发广泛关注。
近日，国家网信办公布了《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《征求意见稿》），并面向社会公开征求意见，意见反馈截止时间为10月14日。《征求意见稿》提出，人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。
来源：公安部网安局 近年来，AI技术发展迅速，成为全球科技领域的热点。AI已经从单纯的学术研究发展成为改变人类生活方式的重要力量。然而，却有一些别有用心之人将其变为造谣、敛财的工具。真实案例2024年8月，一则令人震惊的消息在网络上迅速传播。
