Token 路由,正在变成 Fintech 生意

CN
链捕手
关注
1小时前

Stripe 买下 OpenRouter 花了七十多亿,但单单 token 路由,肯定不值这个价:路由逻辑可复制,云厂商能打包,5.5% 抽成大概率也不可持续。

那 Stripe 到底买的是什么?不是“把请求发给哪个模型”,它买的是一个能看见跨模型、跨供应商流水的“上帝视角”。QED Venture 的合伙人 Sandeep Patil 在交易后用 Fintech 的角度说得更准确:

身在流水之中本身不是护城河,看得见流水并因此比别人更知道下一步该怎么走,才是。

支付业花了二十年验证这句话,token 现在要把同一条路再走一遍。

所以这篇文章想说的不是技术,是金融:围着美元长了二十年的那套东西,正在 token 上原样再长一遍——路由与采购、数据与分发、成功率与风控、标准与组装、账户信贷与汇兑。

搬运 token 只是流水生意,而更大的价值在流水之上。

一、路由:先解决碎片化

token 路由存在,是因为 AI token 市场正在变得碎片化、多对多的市场。

应用要同时调好几个模型,模型又托管在多家供应商那里,价格一直动,不同任务的最优解也不一样。开源追闭源,前沿模型又把前沿往前推,这种不稳定短期不会消失。绑死一家供应商越来越不划算——没有哪个应用愿意每次最优模型换了,就把技术栈重建一遍。

图片

金融市场处理碎片化的老办法,是在中间插一层共享设施:SWIFT 在银行之间,卡组织在商户和发卡行之间,支付网关把底层复杂的通道抽象掉。

token 路由,走的是同一条路。

而且它不只是流量调度,每一次路由都是一次采购决策:哪个模型来做,哪家供应商来服务,付什么价,什么质量算通过。累计十亿次之后,路由方手里就有一本模型消费的流水账。

但如果仅仅只有路由,是不行。

简单场景里,换个路由商可能只是改个 base URL。路由逻辑可复制,云厂商能把它打包进企业本来就在买的基础设施,竞争者也能按成本价透传模型价格。生产环境远没这么轻,合规、数据驻留、缓存、可观测性、SDK、计费、隐私,都要动。

Token 路由,正在变成 Fintech 生意

二、分发与集成:数据是被集成之后才有的

Stripe 后来的力量不在通道。它成了开发者的默认选项。流量分发本身就是护城河。

这句话常被反过来讲:不是因为有了数据才被集成,是因为先被集成,才有了数据。

token 路由这一侧,最直接的证据是 OpenRouter 的模型排行榜。哪些模型的用量在涨,哪些在跌,编码类任务在往哪儿迁,价格一动用户多久换家——这是目前全行业唯一一份跨模型、跨供应商的公开用量数据。

Token 路由,正在变成 Fintech 生意

有意思的是,这份数据对路由本身几乎没有用。它不会让某一次请求跑得更准。可它让 OpenRouter 成了这个市场的记分牌,而记分牌是有议价权的。

模型厂商做不出这个东西:他们只看得见自己的调用,等于只看得见自己的一本账。云厂商看得见基础设施,看不见意图。

唯一能看见跨模型行为全貌的位置,是路由层。

于是形成一个循环:更多流量带来更好的观察,更好的观察改进路由,更好的路由带来更多流量。

这比在 token 上抽五个点有意思得多。

看得见只是这一层的产出,本身还不值钱;值钱的是看见之后敢做什么、能扛什么。

三、智能路由:从比价到兜底

支付最早的路由很机械,无非把一笔钱送到该去的地方。后来长出来的东西更值钱:失败自动重试,一家拒了换下一家,报文字段反复调优,风控实时拦截,同一笔钱在几条通道之间比价。名目不同,干的是一件事——把成功率抬上去。

Token 路由正在经历同样的演化,只是难度和空间都更大。

美元支付的成功是二元的,到账或者没到账。

token 不是:一个任务做没做成、做得好不好,中间隔着一层判断。

正是这层模糊,让抬成功率在 token 上比在支付上值钱得多。

最容易出错的推论也在这里——便宜模型越来越好用,于是路由看上去越来越像一个比价引擎,把每个请求发给能干这活的最便宜模型。可“发给最便宜的模型”从一开始就是错的。一个 AI 任务不是一次推理。它是一个 agent 要规划、生成、验证、调用工具、重试、纠错。便宜模型失败两次,比贵模型一次成功更贵。

所以该看的不是每 token 的成本。是每一次成功完成的成本。

推理成本、重试成本、工具调用、验证、人工兜底、延迟和失败损失,全加在一起,再除以成功任务数。这个账算清楚,路由就不再是比价引擎。

Token 路由,正在变成 Fintech 生意

但算清楚只是第一步。支付业给出的更硬经验是:谁承诺成功率,失败的成本就落在谁头上。

网关之所以肯把授权优化这种苦活吃下来,是因为它按成功率收费,失败时客户找的是它,不是底层通道。它把复杂性和风险吃进来,是收费方式。客户愿意为“这件事能做成”付溢价,网关收的就是这笔溢价,代价是失败时自己扛。

智能路由最后要接的,也是这个。不是“把请求发给最便宜的模型”,是“这件事能不能做成”。选便宜模型只是路上的副产品。

这件事只有路由层能做。把提示词、上下文、参数、推测解码这一整套调优搬到网关层,几乎没人产品化——这些事今天散在应用层,每家自己写一遍。可它们本来就是网关的活。做好需要跨模型、跨任务类型的失败样本,单个应用没有这个视野。

风控是同一个逻辑的另一面。它是改个 base URL 带不走的东西之一,而且是最关键的那类。Stripe 说,其网络上 AI 公司大约六分之一的注册与多账号套利有关;OpenCode 联合创始人 Dax Raad 说,他们一次清掉 7,013 个欺诈账号,估算每月被吃掉 40 万美元。单个模型厂商只看得见自己那一份损失,路由层却看得见同一批人在多少家重复开户。Radar 当年就是这么长出来的。

四、模型层拿不到的位置

过去三年,AI 的讨论一直围绕哪个模型会赢。路由让这个问题变得不重要。

随着渗透加深,编码会收敛到一套模型,检索一套,客服一套,复杂推理再一套,而一个应用跑完一件事往往要把它们轮着调一遍。到那时“最好的模型”这个说法本身就失效了,因为没有哪一个任务类型说了算。

更要紧的是它的推论:没有哪家模型厂商能独占一个完整的任务。任务一旦跨模型,组装的那一层就自动出现了。它不是从谁手里抢来的。是模型层让出来的。

金融服务里这一幕演过。银行曾经是一个整体,存款、放贷、支付、汇兑捆在同一张牌照里。过去二十年被 Fintech 一块块拆开,又被重新装起来——牌照还在银行手里,利润去了组装的那一层。

模型权重就是那张牌照。稀缺、昂贵,可一旦被多家同时接入,它就只是零件之一。用 Sandeep 的话说:

到了这一步,模型路由就不再像管道,而开始像 Fintech。

它组装的那些零件——计量、计费、风控、账期、对账——本来就是 fintech 的零件。

五、左手资沉,右手应收

把这五层摊开,对着 Stripe 的产品目录看一遍,会发现它在 token 上正在重建自己在美元上建过的同一套东西:

Token 路由,正在变成 Fintech 生意

(Token 会是 Stripe 的新美元吗)

左边这一列基本是 Stripe 自己一点点建起来的,右边这一列——Bridge、Privy、Metronome、OpenRouter——全是买来的。同一家公司,同一个形状,第一次自建,第二次全买。第一次建的时候形状还不存在,只能自己摸;第二次形状已经清清楚楚,剩下的只是谁先站到位置上。收购买的不是收入。是时间。

Stripe 买下 OpenRouter,买的可以说是一块计量表。从计量表到资产负债表,就是最后这一格的跨度。

先看账户。今天的 token 余额还算不上账户,更像储值卡:预付、不可转让、不可跨平台、绑定单一发行方。但 OpenRouter 的余额能在 400 多个模型、几十家供应商之间花,已经从闭环往开环挪了一步。

预付意味着平台先拿到现金,沉淀资金留在平台。再往开环挪一步,就触到储值支付工具的定义线。要不要赚这笔 float?那是牌照要解决的问题。

再看信贷。不止预付,后付费的信用账期同样普遍。我们接触到的案例中,信用费率落在每月 1.5% 到 2%,年化 20% 到 27%,和信用卡一个档。这正是一个还没有征信的市场应有的价格。利差会最先在路由层被压缩,因为只有那一层看得见谁在多少家重复开户,谁的消费曲线稳定,谁薅完就跑。Stripe Capital 当年就是这么长出来的。

最后是汇兑。400 多个模型,输入、输出、缓存分别定价,价格随时在动,每一次路由都是一次兑换。看着像外汇,却差一样东西:没有本位币。任何一个模型的 token 都当不了基准。这不是汇率市场。是 400 种商品的多边易货,被统一的 API 接口伪装成了一个市场。

一边握着沉淀资金,一边挂着应收账款。这不是开发者工具的资产负债表。是支付公司的资产负债表。

token 在计量,美元在记账。

六、谁为结果报价、为确定性付费

支付花了二十年长齐这五层。token 不需要这二十年。

所以今天关于模型路由的两个热门问题,其实都问偏了:一个是模型性能会不会收敛到只剩比价,收敛了利润率就趋近于零;另一个是独立路由商能不能攒够专有数据,跑赢模型厂商和云平台自带的路由。

前者问的是命,后者问的是家底。

但是真正的检验标准是:什么时候有路由敢按“完成一个任务”报价,而不是按 token 抽成,并且为确定性付费。

那一刻它就不再是路由了。

原油有 Platts,信用有 S&P,但它们都不碰自己丈量的那样东西——Platts 不产油,S&P 不放贷。

智能还没有这样一个机构,可流量已经每天十万亿笔。

本文为行业结构分析,用于讨论目的,不构成任何法域下的投资、法律意见。各项监管定性以相关监管机构的最新表述与个案事实为准;部分数据来源于单一渠道,口径差异已在文中标注,具体引用前建议单独核实。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接