伴随着大模型等人工智能产业的快速发展，新的安全风险挑战也接踵而至。今天上午，大数据协同安全技术国家工程研究中心（以下简称“BDS国家工程中心”）发布了国内首份《大语言模型提示注入攻击安全风险分析报告》（以下简称“报告”），为国内大模型安全发展提供整体指南。
开源CMS项目Drupal对最近修复的SQL注入漏洞发布了安全警告，称自动入侵工具已能利用该漏洞，如果 Drupal 7网站没有及时打上补丁都有可能遭到入侵。这里的及时是指在发布补丁7小时内，Drupal是在10月15日发布了修复补丁 Drupal 7.
安全研究人员正在越狱大型语言模型以绕过安全规则。事情可能会变得更糟。安全研究人员Alex Polyakov花了几个小时就攻破了GPT-4。自从OpenAI今年3月份发布了最新版本的文本生成聊天机器人以来，Polyakov就坐在键盘前输入了一些旨在绕过OpenAI安全系统的提示。
