Hugging Face首席政策官兼战略高级副总裁艾琳·索莱曼（Irene Solaiman）在近期一期Equity播客节目中表示，正是那些让开放AI平台变得有价值的特质——比如开放的准入门槛和丰富的数据资源——也可能让它们更容易遭受攻击。
今年10月针对OpenCode的攻击事件，目标是用户的第三方API密钥，造成了财务损失，这是最新的一个案例。此前在今年夏天，一个OpenAI智能体群曾入侵Hugging Face，疑似在获取网络安全评估答案后企图掩盖痕迹。
风险并不仅限于那些邀请开放社区贡献的平台。本周一，帮助开发者运行和训练开放AI模型的AI基础设施初创公司Fireworks披露，攻击者已获取部分客户的模型权重、数据集和账单信息。该公司在调查期间暂时禁用了某些自助式数据集功能。尽管此次攻击未必源于Fireworks的开放性，但它凸显了AI基础设施提供商所集中的宝贵信息量之大。
“我所担心的那些让开放社区成为攻击目标的因素，恰恰也是它特别之处所在，”索莱曼在Equity节目中说道。“我们必须保持开放包容。我们希望那些没有机构背景、只是在家中自行钻研的普通爱好者，也能够参与贡献。”
“你希望人们能够随时提交拉取请求，允许任何没有正式机构关联的人参与贡献……但随后总会有一些害人的败类，毁了其他人的体验，”她在另一次采访中补充道。
这种开放包容并不是唯一吸引攻击者的因素。开放平台上蕴藏的丰富信息同样使其成为目标。Hugging Face之所以成为OpenAI智能体群的诱惑目标，是因为其持有的评估数据集；而OpenCode此次事件中被盯上的，则是其“诱人的第三方API密钥”，索莱曼解释道。
“这两者的结合，使我们成为了首要攻击目标，”索莱曼在另一次对话中对TechCrunch表示。她还补充说，存在“开源社区在获得如此多公众支持的时刻真正走向封闭的危险”。
近期，业内大多数力量都表态支持开放AI模型，包括英伟达的黄仁勋等重量级人物。政府、企业和初创公司也越来越依赖开放模型进行开发构建。
那么，所谓的“收缩”究竟会是什么样子？理论上，这可能意味着限制谁可以上传模型或数据集、实施更严格的身份验证，或者在开发者访问某些功能之前进行额外审查。尽管这些举措可以保护平台免受攻击者侵害，但也可能让独立研究人员和爱好者更难参与到原本对他们敞开怀抱的社区中。
目前，Hugging Face正努力避免走上这条路。索莱曼表示，公司一直在加强监测工具以捕捉黑客攻击，同时也在采取预防措施。但她指出，维持监测的成本可能很高，并非所有平台都能负担得起。
“管理访问令牌是导致那次智能体群获得更高权限的部分原因，所以我们现在比以前更频繁地轮换这些令牌，”索莱曼说。“我们现在也实施了更严格的网络控制。”
换句话说，赋予管理员对Hugging Face系统广泛访问权限的凭证现在更换得更频繁了，这意味着一旦令牌被盗，其可利用的时间窗口会更短。
开源生态系统的其他部分也在面临类似的安全权衡问题。作为全球最大的开源项目托管平台，GitHub一直在打击那些在项目中注入恶意代码以快速传播恶意软件的攻击者。该公司已开始收紧向npm注册表发布软件包的安全要求，撤销旧的身份验证令牌，并限制新令牌的有效期。
GitHub负责软件供应链安全的工程师扎克·斯坦德勒（Zach Steindler）通过电子邮件告诉TechCrunch，尽管安全措施可能会打乱既有工作流程，但平台完全可以在不根本限制参与度的前提下变得更加安全。
“这与其说是限制功能，更多的是去修复那些本就不够安全的东西，”斯坦德勒说。他指出，npm的安装脚本已经存在多年，但近期的攻击事件凸显出其潜在的危险性。GitHub与OpenJS（一家托管重要JavaScript开源项目的非营利组织）合作，共同推出了一种更安全的方案。
斯坦德勒表示，同样的逻辑也适用于安全团队应将精力投向何处：“安全工作的核心在于用现有资源实现最大效益，我更愿意把精力投入到检测可疑行为和构建遏制能力上——这些手段能够覆盖所有账户和访问方式。无论是谁表现出可疑行为，它都是可疑的。”
