本报记者 曲忠芳 北京报道“大语言模型最后要变成应用来提供服务，怎么样让大语言模型为企业内不同的人提供不同的API（应用程序编程接口），以前是靠应用程序和网络边界来隔离的，现在网络边界已经不足够了，网络边界只是用户认证的基础条件，大语言模型的出现加速了零信任在企业中的落地。
大模型正在成为驱动新质生产力发展的新动能、人类探索未知的新工具，但也带来了前所未有的安全风险。如何提升大模型的安全能力？用魔法打败魔法，或许是一种解决问题的思路。4月25日-29日，2024年中关村论坛年会在北京举行。
央广网北京3月7日消息（记者 万玉航）“网络安全、科技创新、民营经济是我履职工作的三个支点。”2024年全国两会期间，全国政协委员、全国工商联副主席、奇安信科技集团董事长齐向东向央广网记者表示，今年他带来了两份提案，关注创新发展“AI+安全”，以及“科技金融”等主题。
9.9元一键生成AI写真安全吗？律师：易产生信息泄露风险 此前，一款名为“妙鸭相机”的AI相机小程序在朋友圈走红，用户只需上传21张照片，并支付9.9元，就可以得到写真大片。不过，随着这款AI相机小程序的火爆，质疑也随之而来，最核心的是因用户隐私和数据安全问题。
·征求意见稿首次提出生成式AI服务提供者需遵循的安全基本要求，涉及语料安全、模型安全、安全措施、安全评估等方面，给出了语料及生成内容的主要安全风险共5类31种。《生成式人工智能服务安全基本要求》（征求意见稿）发布，是国内首个专门面向生成式AI安全领域的规范意见稿。
来源：环球网 【环球网科技报道 记者 李文瑶】根据Gartner的最新预测，2024年全球终端用户在公有云服务上的支出预计将达到6754亿美元，较2023年的5610亿美元增长20.4%。推动这一增长的两大因素是生成式人工智能（GenAI）和应用现代化改造。
生成式AI需要依赖大量的数据和模型，任何一个环节的安全疏漏，如使用不安全的模型训练及微调、模型的泄露、不安全的应用、不安全的应用访问等等，都可能会导致企业自身数据及隐私的泄露，或者产生不准确甚至错误的结果。
来源：环球网 【环球网科技报道 记者 林梦雪】AI时代正式开启后，社会生产和人类生活方式发生极大变革的同时，其背后的安全问题也逐渐浮出水面。在探索生成式AI深度应用的同时，兼顾技术革新与安全可信，成为推动AI产业生态稳步发展的重要议题。
“生成式人工智能要解决四个方面的安全问题，分别是内生安全的问题、内容安全的问题、运行安全的问题以及合规性的问题。”vivo 首席安全官鲁京辉在日前举办的亚马逊云科技 re:Inforce 2023 中国站上如是说。对于生成式 AI 在安全层面给企业带来的挑战与机遇。
行业数据显示，2025年全球77%的企业将深度整合生成式AI技术，承载着75%互联网流量的API体系，正驱动着超2000亿美元的数字经济浪潮。然而，这场技术革命也催生了新型威胁:攻击者利用生成式AI自动化构造恶意请求，绕过传统规则引擎;
作者：刘向东国家网信办等7部门近日发布《生成式人工智能服务管理暂行办法》，对生成式人工智能（AI）技术应用划定清晰边界，实行包容审慎和分类分级监管，确保科学监管和鼓励发展并行。《暂行办法》坚持发展和安全并重、促进创新和依法治理相结合，旨在推动生成式人工智能健康有序发展。
北京日报客户端 | 记者 袁璐生成式AI在安全层面正给企业带来挑战及机遇。8月31日，亚马逊云科技宣布与IoT开发者平台涂鸦智能成立“联合安全实验室”，双方将在机密计算、数据隐私以及生成式AI在IoT领域的安全实践等方面展开联合共创，为终端用户的物联网设备提供更多安全保障。
来源：【通信信息报社】（记者 陈锦锋）自2022年底ChatGPT3.5发布以来，生成式AI相关话题热度持续走高。近日，由国家互联网信息办公室等七部门联合发布的《生成式人工智能服务管理暂行办法》正式施行，这也是我国首个针对生成式人工智能产业的规范性政策。
【环球网科技报道 记者 李文瑶】“安全是构建生成式AI应用不可回避的一个议题。”在以“AI时代 全面智能的安全”为主题的亚马逊云科技re:Inforce 2023中国站上，亚马逊云科技大中华区解决方案架构部总监代闻如此阐述生成式AI爆发式发展后，企业所面临的直接问题。
9月4日，2024外滩大会在上海开幕的前一天，一条人工智能相关的新闻冲上网络热搜：外滩大会全球Deepfake（深度伪造技术）挑战赛的参赛选手之一，中国科学院的“95后”女性算法工程师张欣怡宣布，已将近期参加挑战赛的AI模型向全球开源，希望以此降低Deefake对抗的使用门槛，援
7月6日，在2024世界人工智能大会（WAIC 2024）AI重塑通信未来与可持续发展论坛上，来自海内外的行业机构代表、专家院士、产业代表齐聚，共同探讨前沿人工智能与可持续发展相结合的机遇和挑战，加快“AI+”数字化转型，推进人工智能与实体经济深度融合。
