提示注入防护 关键字列表
OpenAI推出锁定模式,防范提示注入攻击保护敏感数据

OpenAI推出锁定模式,防范提示注入攻击保护敏感数据

OpenAI发布全新"锁定模式"功能,旨在防范提示注入攻击——即恶意指令被隐藏于网页或其他内容中的安全威胁。开启该模式后,ChatGPT将禁用实时网页浏览、网络图片检索、深度研究及代理模式等功能。OpenAI坦承,即便启用锁定模式,仍存在一定风险。该功能主要面向处理敏感数据、需要更严格数据防泄露保护的用户和企业,目前正向ChatGPT商业自助账户及符合条件的个人账户逐步开放。