大模型如雨后春笋般涌现，在全民化生成式AI到来之前，由其产生的隐私泄露、数据污染、产权保护等风险是难以忽视的重大问题，这既包含人为因素的作祟，也包括技术本身带来的弊端。文｜王雅迪 石丹ID | BMR20042023年最热关键词当属“大模型”。
◎本报记者付丽丽“当前，AI应用系统安全责任与风险严重失衡。”7月31日，在由中国互联网协会、360互联网安全中心主办的第十二届互联网安全大会上，中国工程院院士、国家数字交换系统工程技术研究中心主任邬江兴说。这也是众多与会者的心声。
本报记者 杨让晨 石英婧 上海报道从Chat GPT到大模型登陆智能汽车，AI（Artificial intelligence，即人工智能）正在不断融入人类的日常生活。但同时也带来一系列诸如行业普及、用户隐私安全等问题。
作者：刘向东国家网信办等7部门近日发布《生成式人工智能服务管理暂行办法》，对生成式人工智能（AI）技术应用划定清晰边界，实行包容审慎和分类分级监管，确保科学监管和鼓励发展并行。《暂行办法》坚持发展和安全并重、促进创新和依法治理相结合，旨在推动生成式人工智能健康有序发展。
因此，我国在大力发展人工智能的同时，必须高度重视其带来的安全挑战，明确安全治理目标，综合运用包括法规政策、标准规范、技术支撑在内的多项治理措施，实施敏捷治理模式，有效提高我国人工智能安全治理能力，确保人工智能安全健康发展。
“生成式人工智能要解决四个方面的安全问题，分别是内生安全的问题、内容安全的问题、运行安全的问题以及合规性的问题。”vivo 首席安全官鲁京辉在日前举办的亚马逊云科技 re:Inforce 2023 中国站上如是说。对于生成式 AI 在安全层面给企业带来的挑战与机遇。
2024年2月29日，奇安信集团对外发布《2024人工智能安全报告》（以下简称《报告》）。《报告》认为，人工智能技术的恶意使用将快速增长，在政治安全、网络安全、物理安全和军事安全等方面构成严重威胁。《报告》揭示了基于AI的12种重要威胁，同时给予应对建议。
为了保证对园区环境风险进行有效识别，传统视频监控存在视频结构化利用率低的问题，在实际使用过程中，安全管理人员工作效率低下，依靠人工肉眼查看灵活度低，风险漏报概率高，出现异常情况跟踪不及时，难以解决核心问题，提供了园区AI智能视频系统，实现该园区的安全监管从传统排查向实时检测的转变，对园区全域重点部位监控利用AI技术对企业动火、高空、空间受限作业的不规范行为进行智能分析危险识别，可提前预警、快速处置。
