伴随着大模型等人工智能产业的快速发展,新的安全风险挑战也接踵而至。今天上午,大数据协同安全技术国家工程研究中心(以下简称“BDS国家工程中心”)发布了国内首份《大语言模型提示注入攻击安全风险分析报告》(以下简称“报告”),为国内大模型安全发展提供整体指南。
开源CMS项目Drupal对最近修复的SQL注入漏洞发布了安全警告,称自动入侵工具已能利用该漏洞,如果 Drupal 7网站没有及时打上补丁都有可能遭到入侵。这里的及时是指在发布补丁7小时内,Drupal是在10月15日发布了修复补丁 Drupal 7.
安全研究人员正在越狱大型语言模型以绕过安全规则。事情可能会变得更糟。安全研究人员Alex Polyakov花了几个小时就攻破了GPT-4。自从OpenAI今年3月份发布了最新版本的文本生成聊天机器人以来,Polyakov就坐在键盘前输入了一些旨在绕过OpenAI安全系统的提示。