离谱！用AI合成视频在社交媒体上发布不实信息通过这一手段为自己账号涨粉引流一男子“栽”了今年6月，厦门警方接到举报，今日头条平台上名为“小逸看世界”的账号发布了图文视频：“广东省五华县华阳镇一70多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月”。
潮新闻客户端 评论员 王彬图片来源：新蓝网最近，在社交平台上，我们经常可以刷到AI制作的视频。一开始人们只是用AI软件，让旧照片里的人物和风景动起来，来回忆过去。但随后，事情似乎朝着愈发不可控的方向发展，越来越多的影视剧片段被AI爆改。
最近，有网友询问“张文宏是不是带货了”。根据网友提供的一段视频显示，“张文宏”在卖一种蛋白棒，家里的老人信以为真已经下单，还转发了很多群。据报道，有媒体记者核实发现，这个账号名为“般画234”。在视频中，“张文宏”反复介绍一种产品，口型是他的，声音也是他的。
最强4050亿开源模型Llama 3.1上线，社区认为是假开源。7月24日报道，美国科技巨头Meta今晨推出迄今为止性能最强大的开源大模型——Llama 3.1 405B，同时发布了全新升级的Llama 3.1 70B和8B模型版本。
国庆假期期间，短视频平台上出现了大量“雷军AI配音”的恶搞视频。在视频中，“雷军”锐评了堵车、假期等热门话题，其中还有一些不雅谩骂。有网友调侃称：“国庆上网被雷军骂了整整7天。”除了吐槽外，视频里的“雷军”还称要投资某某大学。截至目前，平台上相关话题浏览量过亿。
□杨晨啸（山西财经大学）12月6日，中央广播电视总台2024龙年春晚吉祥物形象“龙辰辰”正式发布亮相。据九派新闻报道，不少网友直呼“有亿点可爱”“想抱个同款玩偶回家”，但也有网友质疑“这怎么像是AI画的”。
半岛全媒体记者 李雪梅AI的发展，开启了深度伪造与低价量产的2.0时代。国庆假期期间，短视频平台上出现了大量“雷军AI配音”的恶搞视频。在视频中，“雷军”锐评了堵车、假期等热门话题，甚至还有不雅谩骂。有网友调侃称：“国庆上网被雷军骂了整整7天。
新重庆-重庆日报 王瑞琳雷军怒了。刚刚过去的国庆节假期里，短视频平台上出现大量“雷军AI配音”的恶搞视频。有人笑称，自己被“雷军”骂了整整7天。相关视频里，“雷军”的发言涉及堵车、调休等热门话题。对此，在互联网上一向以好脾气著称的雷军，连发三个愤怒表情予以回应。
12月15日，“微信珊瑚安全”公众号发布《关于打击利用AI仿冒知名人士进行营销宣传的公告》：近期有媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象，微信从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理；截至目前，累计处置
2024年，大模型浪潮逐渐迈入了应用深化与广泛落地的关键阶段，集成了生成式AI技术的新产品以多种形式进入日常生活，成为工作、创作和娱乐的重要助手。不过，新AI技术与各行业深入融合的同时，也引发了数据安全、版权归属、伦理挑战等一系列担忧。
世界各国的人入驻国内的社交媒体，分享生活动态或者成为网红带货不少见，但是在AI加速到来的时代，你所看到的外国人可能不是外国人。日前，乌克兰网红博主奥尔加·洛伊克在社交平台发布长视频，称自己非常震惊的发现自己的脸被大量“克隆在”了中国的社交平台上。
图片来源：美国《The Week》【今日视点】◎本报记者 张佳欣从客户服务到内容创作，人工智能（AI）影响了众多领域的进展。但是，一个日益严重的被称为“模型崩溃”的问题，可能会使AI的所有成就功亏一篑。“模型崩溃”是今年7月发表在英国《自然》杂志上的一篇研究论文指出的问题。
美国《国会山报》24日报道，一名竞选密苏里州圣路易斯地区众议院席位的共和党候选人日前公布一份长达23页的文件，直言引发抗议浪潮的弗洛伊德死亡录像实际是为加剧种族紧张局势的假视频。报道说，这份文件还声称，弗洛伊德早在5月25日之前就死了：“证据表明，乔治·弗洛伊德早已去世。
