2022年底，OpenAI几乎是这个行业唯一的名字。市面上有一些零散的开放权重模型尝试，但没人真正把它们当回事。Alex Atallah记得那种孤独——直到2023年1月，Llama出现了。
它在一两个基准测试上跑赢了GPT-3，这很震撼，但它没法聊天，不是一个真正能用的产品。看起来只是缺了临门一脚：做点RLHF就能让它完整。而那临门一脚，是斯坦福一个团队用600美元做出来的Alpaca。
Alex在飞机上试用Alpaca的那一刻，成了他职业生涯的分水岭。他发现很多情况下根本分不清ChatGPT的输出和Alpaca的输出。如果只需要600美元就能做出一个能打的模型，这意味着什么？意味着一种全新的数据变现方式正在诞生——你可以把有价值的数据压缩进一个模型里，再把这个模型包装成服务卖出去。这不只是一次技术突破，而是一整套新商业模式的雏形。
这场对话发生在Anjney Midha家中，他是a16z合伙人，也是OpenRouter的早期投资人之一。他与Alex Atallah相识已有13年，从斯坦福校园的一份自由派报纸《Stanford Review》一路走到今天，见证了OpenRouter从一个边缘想法长成日均处理超过10万亿token的基础设施。对话的主持人是swyx。
1. 从Alpaca到市场缺位：为什么开源模型不能没有主场
Alpaca证明了一件事：一旦复制一个爆款应用的框架变得容易，一整个生态系统几乎会立刻涌现出来。单一公司做出的决策和整个开发者社区能做出的变体之间，存在巨大的鸿沟。这个鸿沟一旦被捅开，就需要有个地方能让所有这些新模型被发现、被比较、被使用。
问题是，当时互联网上没有这样一个"大本营"。Hugging Face是最接近的存在，但它没有闭源模型，也没有关于谁在用这些模型、为什么用的数据。Alex当时正试图搞清楚人们为什么会在层出不穷的小模型里做出选择，这种信息真空本身就是一个机会。
2. Discord里的NFT狂潮，教会了Anjney什么是攻防战
Alex和Anjney的交集远早于OpenRouter。两人相识于斯坦福自由派报纸《Stanford Review》的一次编委会——那是网络中立法案辩论正热的年代，技术议题第一次变得如此政治化，报纸却连个科技版块都没有。Anjney提议开设科技板块，Alex是唯一响应的人。
真正的专业交集出现在Anjney执掌Discord平台安全期间。疫情中期，Discord意外成为加密货币和NFT交易的爆发地，来自OpenSea的买卖交易在服务器上跑出了数十亿美元的GMV。钓鱼攻击、社会工程攻击、DDoS轮番袭来，Anjney一边应对这些攻击，一边在斯坦福CS53开课讲安全，而Alex正好在OpenSea工作。
一年后，OpenAI给了Discord GPT-3.5的早期访问权限，Anjney的团队用它做了两件事：一个叫Clyde的第一方好友机器人，帮用户搭建服务器、张罗社区；另一个是内容审核。但那时后训练技术还很早期，模型经常直接拒绝审核任务，因为强化学习阶段的设定让它本能地回避这类请求——这是团队第一次真切体会到，模型能力和模型可用性之间隔着一整片没人趟过的地。
3. 一种新的价值单位，正在互联网上流动
Anjney把token经济和线上支付的历史类比在一起。在线支付诞生于上世纪八九十年代，十年内规模突破一万亿美元，这个过程同时催生了整整一代新的反欺诈支付基础设施。今天的token经济正走在相似的曲线上——目前的规模大致对应线上支付发展的早期阶段，但未来五年有望冲到5万亿美元，十年内摸到10万亿美元的量级。
规模扩张伴随的是欺诈的同步升级：payload越值钱，盯上它的坏行为者就越多。Anjney提到，仅上个月他们拦截的欺诈资金量就是前一个月的10倍，而且token欺诈的形式正在迅速多样化——不再只是人类攻击者，自动化agent正在成为攻击日益值钱的token流的新变量。这也是为什么Stripe的欺诈防御基础设施，对OpenRouter这样的推理网关而言，正变得战略性重要。
