极目新闻记者 雷原5月21日，在2023清华五道口全球金融论坛上，北京瑞莱智慧科技有限公司合伙人、高级副总裁朱萌发表主题为《大模型时代金融科技新型安全风险及应对》的演讲。朱萌指出，金融领域是人工智能应用最广、应用场景最多的领域之一。
“大模型行业从2023年10月开始进入到冷静期。为什么进入到冷静期？第一，大模型受关注不仅仅因为它的AI新技术，而要看场景在哪？也就是价值点在哪？第二，在实现价值的过程中如何保证数据安全？”用友iuap平台技术专家姚春雷在接受第一财经专访时表示。
人工智能的加速发展，有力推动了社会的数智化转型，与此同时，相关安全风险也日益凸显。近日，通明湖人工智能开发与应用大会在北京举办，360智脑总裁张向征以“大模型安全研究与实践”为主题，分享了大模型安全领域的最新研究成果和实践经验。
生成式AI需要依赖大量的数据和模型，任何一个环节的安全疏漏，如使用不安全的模型训练及微调、模型的泄露、不安全的应用、不安全的应用访问等等，都可能会导致企业自身数据及隐私的泄露，或者产生不准确甚至错误的结果。
潮新闻客户端 记者 张云山 柳蓬“这段视频明显是AI合成的！视频中人脸动作轨迹和速度等信息都出现异常。”“这条语音在某些频率上过于‘干净’，显示出不自然的变化，AI生成概率在98%以上！”11月20日，国内首个AI大模型攻防挑战赛在乌镇激烈上演。
AIGC的深入发展和快速普及，打开了智能世界广袤的想象空间，但在技术成果涌现之际，随之而来的模型安全、数据安全、内容安全问题也日益凸显。如何应对AIGC引发攻防范式转化的新趋势；如何规避数据和隐私泄露风险，保障内容生成的安全合规，正成为摆在行业面前的切实难题。
来源：中央广电总台国际在线编辑：任丽君国际在线报道（记者 黄蓉）：11月21日，2024年世界互联网大会乌镇峰会网络安全技术发展与国际合作论坛在浙江乌镇举行。奇安信集团董事长齐向东在发表论坛主题演讲中表示，有了高效的安全治理，AI才有未来。
潮新闻客户端 记者 王燕平2024全国两会召开，“加快形成新质生产力”广受热议。以颠覆性技术和前沿技术催生新产业、新模式、新动能，发展新质生产力日益成为社会各界共识。AI作为引领未来的战略性技术，已经成为新一轮科技革命和产业变革的核心驱动力。
“人工智能发挥出什么样的作用，关键还是看使用的人。”2024世界互联网大会乌镇峰会期间，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东表示，针对AI黑箱化、黑产化、武器化这三重危机，应通过多维度体系化防护、“鉴伪”“防伪”技术、AI提升安全能力三大策略来化解。
