模型路由正在成为企业 AI 的关键基础设施
前沿大模型之间的竞争持续加剧,同时开放权重模型的能力也在不断提升。在这种环境下,企业部署 AI 时面临的一个现实问题是:并不是所有任务都值得调用同一个最强模型,甚至并不是所有任务都需要大语言模型。
这让“模型路由”逐渐成为企业 AI 系统中的关键能力。
为什么企业需要模型路由
Glean 联合创始人兼 CEO Arvind Jain 表示,Glean 的一个重要目标,就是尽量避免在不需要大语言模型的场景中调用 LLM。
例如,一些员工可能会在 Glean 中输入简单的加法或乘法问题。对于这类任务,调用大模型显然不是最经济的方案,普通计算器就足以完成。
这背后的逻辑并不复杂:企业中的 AI 请求差异非常大。有些任务需要强推理能力,有些任务只需要检索、计算或调用已有工具。如果每个请求都直接交给价格最高、能力最强的模型,不仅成本迅速增加,也没有必要。
因此,模型路由所要解决的,本质上是一个动态选择问题:针对具体任务,判断应该使用哪个模型,或者是否需要使用模型。
Glean 想做的不只是“接入多个模型”
Jain 将 Glean 的目标描述为,为企业员工提供一个“非常强大的个人协作者”。这意味着 Glean 并不是简单绑定某一家模型提供商,而是希望在不同模型能力之上增加一层统一的企业 AI 系统。
按照 Jain 的说法,可以把今天的 Glean 看成 ChatGPT、Claude、Gemini、Grok 等不同 AI 产品能力的一个组合层,将多个模型整合到同一个使用体验中。
对于企业来说,仅仅把 AI 模型引入公司并不够。另一个同样重要的问题,是如何让 AI 理解公司的数据、知识以及实际工作方式。
Jain 表示,Glean 的业务最终需要深入理解企业内部的数据、知识和信息,同时理解工作在组织内部究竟是如何发生的。
这也意味着,企业模型路由并不能只根据公开基准测试决定。一个模型是否适合某项任务,还与企业内部知识、权限、任务类型以及具体工作流有关。
模型选择同时受到员工和管理员控制
在 Glean 的设计中,模型选择并不是完全由系统自动决定。
已披露的机制包括三个层级:
- 员工可以显式选择自己希望使用的模型;
- 企业管理员可以限制可用模型,或者设置使用额度;
- 系统还可以进行自动模型选择。
这样的结构反映出企业 AI 与普通消费者 AI 产品之间的一个重要差异:企业不仅关注模型能力,还必须同时考虑成本、权限和治理要求。
成本正在把“选模型”变成一个系统问题
Glean 本身也在快速增长。公司此前完成了 1.5 亿美元 F 轮融资,当时估值为 72 亿美元;随后其年度经常性收入达到 3 亿美元,并称这一数字在 15 个月内增长至原来的三倍。
与此同时,模型生态正在变得越来越多样化。前沿闭源模型持续升级,开放权重模型的能力也在提高。对于大型企业而言,这意味着可选择的模型越来越多,而不同模型之间的成本、性能和适用任务也存在明显差异。
在这种情况下,“默认使用一个模型解决所有问题”的部署方式会越来越难以维持。模型路由则提供了另一种思路:把模型本身看成可以根据任务动态调度的计算资源,而不是固定不变的产品入口。
从 Glean 的实践来看,企业 AI 的竞争正在逐渐从“接入哪个模型”,转向“如何把多个模型、企业知识和工作流组织成一个统一系统”。模型路由正处在这一架构变化的核心位置。
