Vast Data公司今日推出DataEnclave,这是一个机密计算环境,旨在让企业能够针对敏感数据运行先进的人工智能模型,同时不暴露数据本身或模型的知识产权。
DataEnclave是Vast DataEngine以及更广泛的Vast AI操作系统中的新功能,它利用英伟达公司的机密计算技术,创建硬件隔离环境,使专有模型和企业数据能够被安全地解密和处理。
该技术面向金融机构、医疗服务提供商、政府机构等无法将受监管或敏感信息迁移至外部托管AI服务的组织。它同时也解决了模型开发者不愿将专有模型权重分发到他们无法控制的基础设施中的顾虑。
“模型权重正迅速成为世界上最有价值的知识产权,”Vast Data联合创始人杰夫·登沃斯(Jeff Denworth)表示。“基础权重决定了前沿模型的价值,而经过微调的权重将越来越多地代表由AI驱动的企业的专有智能。”
DataEnclave使用横跨中央处理器和图形处理器的可信执行环境。它对来宾内存、图形处理器内存和NVLink流量进行加密,同时将活跃的模型和数据与管理员、基础设施运营商及其他租户隔离开来。
一套加密认证流程会在模型或数据被解密之前,验证硬件、软件及管理策略。企业和模型开发者通过与自身密钥管理系统的集成,各自保留对加密密钥的控制权。
“到目前为止,还没有一个很好的解决方案能够确保人们进行计算的内存空间同样受到保护,”登沃斯说。“当你到达最终的计算目的地时,那个环境是否足够安全,能够真正解密世界上最敏感的数据?”
灵活部署
DataEnclave可以部署在客户数据中心、AI云以及完全隔离的物理隔绝环境中。其认证服务基于开源的云原生计算基金会Trustee项目,或者可以通过Fortanix公司的机密AI产品来提供。
该系统还会在Vast DataBase数据仓库中记录认证事件、密钥发放以及隔离环境的生命周期活动。这些记录提供了一个审计追踪,显示哪些工作负载在何种策略下运行,而不会泄露受保护的数据或模型权重。
首批模型与软件合作伙伴包括Cohere公司、CrowdStrike控股公司、Deepgram公司、旧金山AI工厂公司、Fundamental Research Labs公司和TwelveLabs公司。思科系统公司和超微电脑公司是提供集成系统的硬件合作伙伴之一。
Vast表示,这种模式允许开发者的基础权重与客户微调后的权重共同运作,同时保持各自独立的所有权和密钥控制。这有助于企业在不向基础模型提供商披露其专有训练或运营数据的情况下,创建定制化模型。
“这两者都可以在这个多租户隔离环境中互相协作,我们能够同时满足两个组织的信任需求,”登沃斯说。
Vast最初专注于那些安全性和数据驻留要求特别严格的组织。登沃斯指出,大型银行、情报和国防机构以及制药公司是早期目标客户。
“在这三种情况下,他们都表示这解决了他们的重大痛点,因为他们不被允许将某些数据产品发送到他们想使用的不同服务上,”他说。“这基本上是世界上监管最严格、最物理隔绝的客户群体。”
该公司还认为,DataEnclave可能会改变企业AI的经济模式。客户可以在自己拥有的基础设施上运行专有模型,或者选择区域性AI云,从而降低模型开发者为支撑底层计算能力所需的资金投入。
对于Vast而言,该功能将被纳入现有的AI操作系统中,而不是作为独立产品出售。“我们不会为此额外收费,”登沃斯说。“它只是AI操作系统技术栈的一部分。”
DataEnclave目前处于预览阶段,预计将于2027年第一季度通过Vast及包括思科和超微在内的合作硬件厂商正式发布。
Q&A
Q1:DataEnclave是什么?它能做什么?
A:DataEnclave是Vast Data推出的机密计算环境,能让企业在不暴露敏感数据或模型知识产权的前提下,针对敏感数据运行先进的人工智能模型。
Q2:DataEnclave主要面向哪些客户?
A:主要面向大型银行、情报和国防机构以及制药公司等对安全性和数据驻留要求极为严格的组织,这些客户通常不被允许将敏感数据发送到外部服务。
Q3:使用DataEnclave需要额外付费吗?
A:不需要,该功能已包含在Vast现有的AI操作系统中,Vast Data表示不会为此额外收费。
