多模型技术栈与模型路由的兴起
先了解这件事
2026年10月13日,Felicis Insights 发布多篇基于对23位 AI 原生公司工程负责人匿名调研的分析。调研显示,所有受访团队都在生产环境运行不止一个模型,60%运行超过四个,50%预计未来会用更多模型;69.6%的团队过去六个月推理支出翻倍以上,其中34.8%称推理开销超过训练5倍,43.5%将每 token 成本列为最大算力瓶颈;70%的 AI 原生工程负责人预计 token 成本将在一到两年内成为需主动管理的关键预算项,成本压力正推动动态切换模型、本地部署、更多采用开源等策略。分析认为,AI 中间层因开源模型、多模型、多模态和可移植性而与云时代不同,模型路由有望成为核心入口,Martian、OpenRouter、LiteLLM、Not Diamond 等提供路由、切换、故障回退与提示词适配能力。
AI 根据报道生成 · 2 小时前更新
事件进展
- 10月13日 02:53 · 1 篇报道模型路由将决定 AI 基础设施的赢家Felicis Insights:模型路由将决定 AI 基础设施的赢家
- 10月13日 02:53 · 2 篇报道Felicis调查23家AI原生团队的基础设施现状Felicis Insights:多模型世界:替代模型如何支撑多模型技术栈,下一个 $10B+ 公司会诞生在哪里
报道时间线
沿着报道,了解事件的不同侧面。
- Felicis Insights模型路由将决定 AI 基础设施的赢家
Felicis Insights 分析认为,AI 中间层因开源模型、多模型、多模态和可移植性而与云时代不同,模型路由有望成为核心入口。Martian 可路由至低成本模型并保持性能,OpenRouter 让开发者通过单一 API 快速测试和切换模型,LiteLLM 提供故障回退保障性能,Not Diamond 支持自动提示词适配。
- Felicis InsightsFelicis 调研 23 位 AI 工程负责人:AI 技术栈只建了一半
Felicis 对 23 位 AI 原生公司工程负责人的匿名调研显示,69.6% 的团队过去六个月推理支出翻倍以上,其中 34.8% 称推理开销超过训练 5 倍,43.5% 将每 token 成本列为最大算力瓶颈。
- Felicis Insights多模型世界:替代模型如何支撑多模型技术栈,下一个 $10B+ 公司会诞生在哪里
Felicis 的 AI 基础设施调研显示,所有受访团队都在生产环境运行不止一个模型,60% 运行超过四个,50% 预计未来会用更多模型。70% 的 AI 原生工程负责人预计 token 成本将在一到两年内成为需主动管理的关键预算项,成本压力正推动动态切换模型、本地部署、更多采用开源等策略。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。