生成式AI需要依赖大量的数据和模型，任何一个环节的安全疏漏，如使用不安全的模型训练及微调、模型的泄露、不安全的应用、不安全的应用访问等等，都可能会导致企业自身数据及隐私的泄露，或者产生不准确甚至错误的结果。
【经济观察】原标题：怎样应对AI技术变革带来的安全挑战？杨召奎近日，宁夏固原彭阳县发生的一起AI（人工智能）换脸换声诈骗案件引发社会关注。诈骗分子通过AI换脸和拟声技术，佯装成受害者亲戚对其实施诈骗，导致受害者被骗1.5万元。类似AI换脸诈骗案件已经发生多起。
“人工智能发挥出什么样的作用，关键还是看使用的人。”2024世界互联网大会乌镇峰会期间，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东表示，针对AI黑箱化、黑产化、武器化这三重危机，应通过多维度体系化防护、“鉴伪”“防伪”技术、AI提升安全能力三大策略来化解。
光明网讯（记者 李飞）11月21日，在2024年世界互联网大会乌镇峰会网络安全技术发展与国际合作论坛上，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东表示，人工智能发挥出什么样的作用，关键还是看使用的人。
潮新闻客户端 记者 张云山 柳蓬在2024年世界互联网大会乌镇峰会上，“人工智能”成为万众瞩目的焦点。网络安全技术发展与国际合作论坛上，来自全球网络安全技术领域的政、产、学、研嘉宾齐聚一堂，围绕“智能向善，人工智能安全风险与治理”的主题展开热烈讨论。
ChatGPT自然语言处理模型带动下游应用百花齐放，AI技术突破对安全产业同样带来变革，包括产品检测效率的提升、赋能安全运营降本增效;李虹洁 分析员 SAC 执证编号:S0080522070023 SFC CE Ref:BSZ555。
