/
动态安全平台 关键字列表
真正的风险在于工作流安全而非模型安全
随着AI助手深入日常工作流程，安全团队仍专注于保护模型本身，但真正风险在于围绕模型的工作流程。近期恶意Chrome扩展窃取90万用户ChatGPT数据，以及代码库中隐藏的提示注入攻击IBM AI编程助手等事件表明，攻击者无需破解AI算法，而是利用AI运行的上下文环境。当AI系统嵌入业务流程时，仅保护模型是不够的，需要将整个工作流程视为保护对象，建立实时防护机制。
白皮书
京公网安备 11010802021500号
