Cloudflare今日正式推出身份感知AI网关(Identity-Aware AI Gateway)服务,该服务可为企业网络中每一条发往外部AI服务商的请求绑定经过验证的用户身份信息。
借助这项服务,IT和安全团队可以清晰地看到某条提示词究竟由哪位员工或自动化系统发出,同时还能为个人或团队设定使用额度上限,并自动标记存在风险的内容。Cloudflare表示,部署该服务无需引入任何新系统。
与此同时,Cloudflare还推出了配套功能AI Spend,专门用于解决费用管控问题。该功能会学习网络中每位员工和每套自动化系统的正常AI使用规律,一旦出现异常行为便立即向团队发出预警。
随着企业AI使用量的快速增长,两大问题也随之凸显。一方面,单次AI调用的成本持续下降,员工和自动化系统发起调用的频次却大幅攀升,账单可能在毫无预兆的情况下骤然飙升。另一方面,安全隐患同样不容忽视——员工姓名、密码乃至机密文件,可能在无人察觉的情况下流向外部AI服务商。现有工具仅能在账户层面限制AI支出,无法追溯到具体责任人,请求内容也不会完整记录在日志中,导致IT团队往往只能事后补救。
Cloudflare首席技术官戴恩·克内希特(Dane Knecht)表示,繁琐的安全机制会成为效率的绊脚石,而对意外超支和数据泄露的顾虑,正迫使企业收紧AI访问权限。
"将访问控制直接与AI网关打通,从根本上改变了这一局面,"克内希特说,"团队可以自由选用任意AI模型,IT部门则获得了真正需要的实时可见性、合规护栏和预算管控能力。"
身份验证能力的实现,来源于AI网关与Cloudflare Access(该公司的零信任访问产品)的深度集成。接入后,企业可以告别过去那种无法追责的匿名共享API密钥模式。所有请求均通过现有的身份提供商和零信任网络访问架构完成认证,用户身份与设备状态在请求抵达模型服务商之前便已完成验证,经核实的身份信息也将被写入请求日志。
将所有AI流量汇聚到单一节点,还能带来额外收益。重复请求可被缓存,从而削减冗余调用成本;速率限制机制可在费用入账前拦截失控的高频调用;自动过滤功能则会在请求发出之前,将员工姓名、密码及其他敏感数据从请求内容中剥离,防止其流向外部AI服务商。
AI Spend对模型选择同样进行了审查——它会识别员工是否将本可交由轻量级低成本模型处理的简单任务,过度依赖高算力模型,并将这类情况主动呈现给管理人员。
货运物流公司Flexport的安全工程师马克斯·鲍姆加滕(Max Baumgarten)表示,共享API密钥让人"几乎无从判断谁在使用AI服务"。该公司已将Cloudflare Access部署在AI网关前端,请求现在均携带经过认证的身份信息,Flexport此前已建立的身份策略也得以直接应用于网关层面。
AI网关最早可追溯至2023年9月,相关安全管控功能则更为新近,Cloudflare自去年8月起持续将其整合进零信任平台之中。
Q&A
Q1:身份感知AI网关是如何实现用户身份追踪的?
A:身份感知AI网关通过与Cloudflare Access零信任访问产品集成来实现身份追踪。企业接入后,所有AI请求都会经过现有身份提供商和零信任网络访问架构进行认证,用户身份与设备状态在请求到达模型服务商之前就完成验证,经核实的身份信息会被写入请求日志,从而彻底取代无法追责的匿名共享API密钥模式。
Q2:AI Spend功能是如何控制企业AI使用成本的?
A:AI Spend会自动学习企业网络中每位员工和每套自动化系统的正常AI使用规律,一旦检测到异常使用行为便立即发出预警。此外,它还会识别员工是否将简单任务过度依赖高算力模型处理,而本可使用更轻量、低成本的模型替代,并将这类情况主动呈现给管理人员,帮助企业优化模型选择,控制不必要的开销。
Q3:身份感知AI网关如何防止企业敏感数据泄露给外部AI服务商?
A:身份感知AI网关内置自动过滤功能,会在请求发送给外部AI服务商之前,自动将员工姓名、密码及其他敏感数据从请求内容中剥离。同时,由于所有AI流量都汇聚到单一节点,管理员可以设置速率限制,并通过完整的请求日志实时监控数据流向,从而大幅降低机密信息意外外泄的风险。
