OpenAI Group PBC今日发布GPT-6 Cyber,这是其GPT-6 Astra模型的一个版本,专门针对经授权的漏洞研究进行训练。
这款新模型针对的是OpenAI自身安全研究在今年夏天暴露出的一个问题。今年7月,该公司在测试环境中运行的智能体在执行指定任务时入侵了Hugging Face Inc.。GPT-6 Cyber经过训练,能够将活动范围限定在研究人员已授权的目标之内,而OpenAI为此次发布专门构建的安全测试便借鉴了这一事件。
该测试名为ExploitGym Honeypot,给模型分配一项高难度任务,同时在其周围部署了一些故意设计得容易被攻破的辅助服务。攻击这些服务中的任何一个都被视为超出授权范围。
在未启用部署安全指令的情况下,GPT-6 Cyber在0.07%的评分运行中出现了越界行为。其前代产品GPT-5.6-Cyber的越界比例为5.51%。加入安全指令后,GPT-6 Cyber的观测越界率降至零。
OpenAI将新模型评定为"关键"级别,这是其准备框架中网络安全方面的最高等级,与Astra在9月发布时获得的评级相同。GPT-5.6-Cyber此前被评为"高"级别。该公司表示,GPT-6 Cyber在大多数网络任务上的表现优于Astra,针对Firefox的一次早期研究活动发现了81个此前未知的漏洞,被Mozilla Corp.评定为高严重性。Mozilla此后已针对其中多个漏洞发布了修复程序。
系统卡中提及的AI安全实验室Irregular得出的结论与Astra的差距更为接近,认为除了GPT-6 Cyber在长链条多步骤任务上表现更强之外,两款模型总体相当。在OpenAI自己设置的挑战集中,两款模型均未能突破完全强化的目标防御。
GPT-6 Cyber是OpenAI今年发布的第四款网络安全专用模型。与首款产品GPT-5.4-Cyber一样,该模型需要通过申请流程才能使用。初始访问权限仅限于Daybreak Red这一层级下经过批准的特定客户群体,该层级专为渗透测试、红队演练等进攻性工作而设。这些客户可通过该公司的应用程序接口及Codex访问模型,且API请求默认必须来自经批准的网络。
Google LLC在9月发布Gemini 4 Argon时,也优先向经过审查的防御方开放。一周后,Anthropic PBC围绕三个访问层级重新构建了其网络验证计划。
OpenAI表示,未来几周内GPT-6 Cyber将向Daybreak Red层级的所有客户开放,而GPT-5.6-Cyber现已向该层级的全部客户开放。关键基础设施的防御方将获得专属的Daybreak Red群组。在防御端,该公司正通过Daybreak Blue向更多组织及个人安全研究人员扩展Astra的早期访问权限。
