人工智能也有“成长”的烦恼，随着人工智能技术的深度应用，大模型所面临的、所带来的安全挑战也日益严峻：第十四届全国政协委员、全国工商联副主席、奇安信科技集团董事长齐向东接受采访时表示，今年两会自己比较关注的重点之一，是人工智能安全。
2023年起，从苹果到三星的手机厂商争相推出AI手机。DeepSeek大模型的火爆更是掀起了新一轮合作热潮，国内多家手机厂商陆续宣布接入，为疲软的手机行业注入一剂强心针。在AI手机里，我们看到了一种近乎“全自动生活”的可能：一句指令可以点咖啡、自动导航路线、AI群发微信红包。
本报记者 白云怡 赵觉珵编者的话：中国人工智能企业深度求索（DeepSeek）取得的突破为中国AI发展注入一剂强心针，也推动一些国内外同行的开源举措和应用拓展，同时，被检测到的“职业打手”对其展开的网络恶意攻击也让人们关注技术狂飙背后亟待应对的安全问题。
中国人工智能企业深度求索（DeepSeek）取得的突破为中国AI发展注入一剂强心针，也推动一些国内外同行的开源举措和应用拓展，同时，被检测到的“职业打手”对其展开的网络恶意攻击也让人们关注技术狂飙背后亟待应对的安全问题。
中新网3月26日电 中国发展高层论坛2024年年会于2024年3月24-25日举行。3月24日下午举行了“人工智能发展与治理专题研讨会”，清华大学苏世民书院院长薛澜在“小组讨论二”环节的发言中表示，人工智能的风险防范和治理，面临五方面挑战：第一是步调不一致问题。
人工智能的高速发展及应用，使人类正在步入人工智能驱动的时代，ChatGPT、换脸软件、AI替换声音、AI绘图等大量AI软件系统被广大用户群体所使用。这项技术发展的同时，也带来了网络安全风险，必须引起重视，解决这些风险才能更好保护用户及其数据。
参考消息网2月19日报道据美联社1月29日报道，专家在最近发布的一份史无前例的国际报告中指出，先进的人工智能系统有可能带来新的极端风险，比如加剧大规模失业、助长恐怖主义或使其失控。该报告对人工智能技术带来的一系列风险进行了梳理。
以大模型为核心的人工智能技术是创新范式变革与产业升级的关键引擎，越来越多的机关、企事业单位开始推进大模型私有化部署，广泛应用于企业办公、科技研发、公共服务等领域。然而技术跃升与安全风险始终伴生演进，如何强化模型全生命周期安全管理，赋能AI行业向好向善发展，成为当前亟须解决的课题。
