“AI语音克隆令人难辨真假，名人视频遭伪造而‘被带货’，统计显示2023年基于AI的深度伪造欺诈暴增3000%……”市人大代表、上海合合信息科技股份有限公司董事、董事会秘书刘忱表示，生成式人工智能加快迭代，在带来便利的同时，如果缺乏科技伦理的规范引导，容易滋生出诸多安全隐患，成为
随着人工智能软件普及AI应用场景也越来越广泛于是，有人起了邪念↓↓↓一个三人团伙用AI软件“洗稿”了网络文章并招募网民成为学员进行发布经过AI拼凑的内容里充斥着不实信息甚至滋生谣言昨天（1月23日），上海市宝山区人民法院对上述案件作出一审判决，三名被告人均因犯非法经营罪获刑。
来源：上海辟谣平台 6月20日，上海警方通报表示，两名品牌营销人员为蹭热度，编造了“中山公园地铁站捅人”等不实信息，相关人员已被警方行政拘留。通报中，有个细节引人注意：一名造假者使用了AI软件生成视频技术，编造了地铁行凶的虚假视频等不实信息。
近日，市民朱女士向解放日报•上观新闻“民声直通车”反映，她在某电商平台付费8.8元下单四维超声图AI预测胎儿长相。一开始，她感到商家反馈的生成照片和彩超影像有几分相似，但当其他宝妈将生成图分享出来时，她才发现，宝宝们竟然“撞脸”了。
今天上午，上海市公安局城市轨道和公交总队微博发布消息，对于散播“中山公园地铁站发生捅人事件”谣言的两名人员依法行政拘留。值得注意的是，此次一名造谣者使用了AI软件生成视频技术，编造了地铁行凶的视频，具有非常大的欺骗性。
上海公安机关一直以来高度重视打击整治网络谣言工作，去年12月，公安部部署打击整治网络谣言专项行动以来，上海警方针对网上恶意炒作、造谣生事等网络违法乱象开展全力集中整治，依法从严快处网络造谣违法人员、全链条打击网络谣言犯罪、持续开展网络谣言生态综合治理。
西藏日喀则市定日县发生的地震灾情牵动人心，当地流传出的各种救援画面，更是令人揪心不已。然而，却有一些不真实的内容趁机浑水摸鱼，利用人们的同情心进行误导、吸引流量。某视频平台上一位博主发布的照片显示：一个戴帽子的小孩被压在倒塌的建筑物下，全身铺满尘埃。
全球第一家AI医院在上海正式开业！这消息一传开，瞬间在全国掀起了轩然大波，医生们惊得合不拢嘴，老百姓们也在网上和生活里热烈讨论。上海AI医院闪亮登场，实力领跑医疗圈！一直以来，AI技术就像一个低调的“幕后高手”，在各个领域里默默发挥着作用。
号称可提供ChatGPT服务，实际是冒牌AI；视频电话中熟悉的“亲友”，是不法分子AI换脸模拟而成；为博取流量，用AI技术编造虚假谣言，流量变“流毒”……随着人工智能的发展迭代，生成式AI正以前所未有的速度重塑着日常生活，但由此衍生出的新骗局、新套路也在刷新人们对风险防范的认知。
“截至2024年末，80后死亡率突破5.2%，相当于每20个80后中就有1人已经去世。”“80后的死亡率已经超过70后。”你是否也被类似的观点刷屏？“上海网络辟谣”微信公众号2月18日发布了文章《“每20个80后就有1人去世”？谣言！罪魁祸首可能是AI》，道出了背后真相。
