2026-08-18
大语言模型安全瓶颈:AI生成代码为何仍不可信
大型语言模型已深度嵌入软件开发流程,但其安全性存在结构性缺陷。前沿模型训练数据趋于枯竭,大量依赖合成数据,导致缺失验证、不安全查询等安全漏洞持续复现。由于最安全的企业级代码从未进入训练集,模型只能复现公开代码的安全特征。...
大型语言模型已深度嵌入软件开发流程,但其安全性存在结构性缺陷。前沿模型训练数据趋于枯竭,大量依赖合成数据,导致缺失验证、不安全查询等安全漏洞持续复现。由于最安全的企业级代码从未进入训练集,模型只能复现公开代码的安全特征。...