OmniRoute是一个本地优先的开源AI网关,把数十家服务商的免费额度聚成一个入口,服务想省token的枫叶。它由Diego Souza发起,项目本体用Bun写成,在Node.js下退回better-sqlite3,也能跑sql.js,数据库不依赖外部服务。
和常见的单模型代理不同,它做的是聚合这件事:目录里收录约394家服务商、1491个聊天模型ID,其中153家标着免费,再配合自动压缩把token开销压低15%到95%。对你来说,值得点进去的不是又一个转发脚本,而是把注册、配额、路由、节省都收拢到一处的地方。

主要功能
- 统一网关:接好一家服务商,全部请求就能汇到一个 endpoint 转发出去,不必为每个模型单独维护 SDK 和鉴权。
- 免费额度聚合:目录收录约394家服务商、153家标注免费、465条免费档位;页头约16.2亿token/月的数字,是把各家免费池去重后算出的估算,每两周复核一次。
- 自动省token:内置压缩与路由策略,官方给出的幅度是15%到95%,在长对话和重复上下文场景里尤其明显。
- Combos 组合路由:这是它的招牌功能,把多家模型按配额和可用性编排到一起,某家限流就自动切到另一家。
- 模态桥接:除文本外还支持 vision、audio、video,图片和音视频请求也能走同一条网关。
- 本地优先与多端部署:数据留在本机,支持 Docker、源码、pnpm、Arch 装法;Bun 下用内置 bun:sqlite,Node.js 下退回 better-sqlite3 或 sql.js。
- CLI 与协议:提供完整命令行,兼容 A2A 与 MCP,能直接接进主流编码 agent 和 CLI 工具。
适合谁用
- 手上同时有多个模型账号、想用一个 endpoint 统一调用的枫叶。
- 被付费 API 账单困扰、想尽量吃透各家免费额度的个人和小团队。
- 在做编码 agent、需要接 MCP 或 A2A 协议的工具链搭建者。
- 对数据隐私敏感、希望网关和额度数据都留在本地的团队。
- 经常需要图片、音视频多模态请求,又不想分别接多套 SDK 的人。
主要入口
首页第一屏就把几个关键去处摊开:免费额度仪表盘是核心,进去能看那张按 pool 去重后的月度 token 汇总和逐家明细;服务商目录按家按模型列出来,方便查谁免费、谁限流;
文档区从安装讲到配置,是该站的主要说明入口。侧边还挂着 Combos 组合路由、Radar 免费目录和兼容编码 agent 的清单,分别通向策略编排、额度雷达和工具对接说明。
底部是 Discord、Telegram、WhatsApp 等社区入口,以及 Video Guides 视频区。
同类对照
- 和单一模型的中转代理比:那边只转发一家、额度自己管,OmniRoute 把多家免费池聚到一起并自动省 token;要吃多平台免费额度就选它。
- 和通用 API 网关比:通用网关只管转发和鉴权,它额外做了免费额度目录、Combos 编排与本地留存;想省成本、要隐私时更合适。
- 和现成的模型聚合平台比:那些多为托管服务、数据在对方手里,它本地优先且支持 A2A/MCP;需要接编码 agent 时优先考虑。
