免费AI网关394家供应商聚合与令牌节省路由:OmniRoute
是一款由 Diego Souza 创建的免费 AI 网关,把数百家模型供应商汇聚到单一端点,自动节省 15–95% 令牌,并提供本地优先、CLI、A2A 与 MCP 支持。
温馨提示:本文发布于 2026-11-19,内容可能随时间推移而失效;若遇到链接打不开、资源异常等情况,可在下方「反馈」中告诉我们,我们会尽快核实处理。
把几十个 AI 供应商的免费额度攒到一起,听起来是省钱的好主意,真做起来却是另一回事:每家一套 SDK、每家一套速率限制、每家一套注册与鉴权流程,最后连自己手里到底还剩多少令牌都说不清。OmniRoute 正是冲着这份琐碎来的——它把分散的供应商入口收拢成一个可路由的网关,让调用方只面对单一端点,而把额度核算、模型发现和令牌节省这些重复的活儿交给工具本身。对一个正在调试提示词、同时想压低推理成本的枫叶来说,值得关心的不是又一款聊天界面,而是背后这条链路是否足够透明、是否允许自己掌控数据,以及新增供应商时会不会推倒重来。下面按是什么、能做什么、适合谁、怎么上手、跑在哪里、花多少钱、常见疑问和枫叶视角逐层拆开。
OmniRoute是什么?
OmniRoute 是一个由 Diego Souza 创建的开源免费 AI 网关,主要用来把数百家模型供应商聚合到单一端点并自动路由调用,服务于希望省去逐家适配、同时压低令牌开销的枫叶与团队。它自己不发放令牌,而是把第三方各自可用的免费额度登记成目录、去重核算后呈现出来,让使用者看清手里究竟有多少可用资源。站方给出的口径是约 16.2 亿令牌/月,来自第三方免费层的合计估算;目录里收录了 465 条免费层条目、34 个循环池键,其中 17 个池有公开的正向月度预算,外加 5 个 Groq 单模型上限,按共享池去重后得出这个数字。

核心功能
- 多供应商聚合——把 394 家 AI 供应商接到同一个端点,调用方不必再为每家单独注册和适配 SDK。
- 免费层目录与核算——收录 465 条免费层条目、34 个循环池键,去重后算出约 16.2 亿令牌/月的可用估算。
- 自动令牌节省——在路由过程中自动压缩开销,站方给出的幅度是 15%–95%。
- 模态桥接——把视觉、音频、视频等输入模态接进同一条链路,不再为不同模态分别搭通道。
- 本地优先与隐私——强调 Private & Local-First,让数据和调用尽量留在自己可控的环境里。
- 命令行与协议支持——提供完整 CLI,并支持 A2A 与 MCP,便于接进现有编码代理工作流。
- 雷达与看板——Radar 免费目录可选启用,免费层看板持续展示去重后的核算结果。
使用场景
| 人群/角色 | 场景描述 | 推荐指数 |
|---|---|---|
| 独立枫叶 | 同时接多家模型做提示词对比,需要单一端点减少适配成本 | ★★★★★ |
| 成本敏感的个人用户 | 想把手头第三方免费层额度合并核算,避免重复注册与浪费 | ★★★★☆ |
| 编码代理集成者 | 通过 CLI、A2A、MCP 把网关接进自动化编码链路 | ★★★★☆ |
| 重视隐私的小团队 | 需要本地优先部署,把调用和数据留在自己环境 | ★★★★☆ |
| 多模态应用实验者 | 需要把视觉、音频、视频输入汇到一条路由链路 | ★★★☆☆ |
操作指南
- 打开项目的代码仓库页面,确认这是由 Diego Souza 维护的开源项目,再决定是否引入自己的工作流。
- 按自己的运行环境选择安装方式:站方列出 Docker、源码、pnpm、Arch 等多种方法,Bun 环境还有专门的多阶段 Dockerfile。
- 准备你手头已有的第三方供应商账号与凭据;网关自身不发放令牌,额度来自你自行接入的免费层。
- 在配置里连接至少一个供应商,然后把原本分散的模型调用改写到统一端点,先跑一条最小请求验证连通性。
- 进入免费层看板查看去重后的额度估算,了解哪些池有公开月度预算,哪些需要区域身份核验后才开放。
- 按需开启 Radar 等可选项,并把 CLI、A2A 或 MCP 接进你已有的编码代理,让路由能力在熟悉的工具里生效。
- 点击 立即使用 或访问 OmniRoute,查看最新的安装说明与文档后再开始配置。
支持平台
从现有资料看,OmniRoute 走的是到处可跑的路线:有命令行 CLI 入口,也能通过 Docker 容器、源码编译、pnpm 与 Arch 安装方式落地;Bun 环境下有专门的多阶段 Dockerfile,数据库层在 Bun 下用内置 bun:sqlite,在 Node.js 或 sql.js 场景回退到 better-sqlite3。协议层面支持 A2A 与 MCP,便于对接编码代理;同时提供网页端的免费层看板用于查看额度。至于独立小程序、浏览器插件这类形态,站方没有明确列出。
产品定价
站方未公开价格信息,以站内为准。就现有资料看,OmniRoute 以开源项目形式提供,强调自带供应商账号、接入第三方免费层,并把各家的额度与限制如实展示,而不是由自己发放令牌或承诺固定额度;具体的成本取决于你所接入供应商的条款与用量,建议以项目文档和站内说明为准。
常见问题
Q:OmniRoute 会自己送令牌吗?
不会。站方明确说明令牌来自第三方各自可用的免费层,网关只做目录登记、去重核算与路由,约 16.2 亿令牌/月是跨多个免费池的合计估算,并非来自 OmniRoute 的赠送。
Q:那个令牌数字会变吗?
会。目录每两周按实时数据重新审计一次,供应商结束免费层时数字会下降,新增免费层时会上升;需要区域身份核验的额度(当前是 ModelScope)单独列出,不计入头条数字。
Q:我能在哪些环境里跑?
可以走 CLI、Docker、源码、pnpm 或 Arch 等安装方式,Bun 下有专门的多阶段 Dockerfile,运行时在 Bun 与 Node.js(或 sql.js)上都有对应数据库方案;再通过 A2A、MCP 把它接进你的编码工具链。
枫叶小结
把取舍说清楚:OmniRoute 的价值集中在聚合与透明核算——它替你收拾多供应商、多 SDK、多速率限制的一地鸡毛,并把免费层额度算到可读;代价是它不替你承担账号与额度来源,所有令牌仍取决于第三方条款,且需要你自行完成安装与配置。它适合愿意掌控数据流、手头已有若干供应商账号、并希望把路由与令牌节省统一到一处的技术用户;如果你只想要一个开箱即用的聊天界面、或完全不想碰部署,那么它带来的复杂度可能超过收益。

