央广网北京4月26日消息（记者 万玉航）近年来，以文生图片、文生视频为代表的“生成式人工智能技术”在迅猛发展的同时，也带来了技术安全风险。面对AI大模型引发的全新安全挑战，传统的安全工具、经验、策略逐渐式微。在此背景下，行业应从哪些方面进行安全维护？
本报记者 谭伦 北京报道距离ChatGPT带来的大模型风潮已近半年，据《中国经营报》记者不完全统计，截至8月底，全国已经发布了逾百个行业AI大模型。但与此伴生的对于数据保护、合规风险及隐私泄露的担忧，也让业界格外关注AI大模型部署过程中将带来的安全风险。
生成式AI需要依赖大量的数据和模型，任何一个环节的安全疏漏，如使用不安全的模型训练及微调、模型的泄露、不安全的应用、不安全的应用访问等等，都可能会导致企业自身数据及隐私的泄露，或者产生不准确甚至错误的结果。
伴随着大模型等人工智能产业的快速发展，新的安全风险挑战也接踵而至。今天上午，大数据协同安全技术国家工程研究中心（以下简称“BDS国家工程中心”）发布了国内首份《大语言模型提示注入攻击安全风险分析报告》（以下简称“报告”），为国内大模型安全发展提供整体指南。
为参加每年的全国政协经济工作委员会，与会者需要到各地调研，三六零(601360.SH，简称“360”)集团创始人周鸿祎发现，伴随数字化的发展、企业内部数据资产的增加与勒索软件的兴起，企业开始对网络安全有了更多需求。
以大模型为核心的人工智能技术是创新范式变革与产业升级的关键引擎，越来越多的机关、企事业单位开始推进大模型私有化部署，广泛应用于企业办公、科技研发、公共服务等领域。然而技术跃升与安全风险始终伴生演进，如何强化模型全生命周期安全管理，赋能AI行业向好向善发展，成为当前亟须解决的课题。
图片说明： 本报记者体验“AI瞬间换脸”图片说明： “互联网之光”博览会。本报赴乌镇特派记者 刘 扬 李炫旻随着以ChatGPT为代表的生成式人工智能大模型持续火爆，全球科技公司、科研机构纷纷布局自己的大模型。生成式人工智能与大模型的快速发展，也给网络安全带来全新挑战。
