主题设置
内置主题选择后自动记忆
我的主题0
在「自定义」里调好颜色后,点下方「另存为」即可存成自己的主题。
导出的 JSON 可分享给他人,导入后会出现在「我的主题」,登录后自动备份到云端。
自定义参数默认等于液态玻璃
主题色
辅色
背景色
文字配色
渐变底色
光斑颜色
角度 160°
通透度 88%
标题
正文
描述
标题
描述
正文
链接
描述
标题
描述
站点卡片
面板背景
背景
遮罩 16%
卡片 88%
登录
星际导航 高质量资源导航

免费AI网关394家供应商聚合与令牌节省路由:OmniRoute

是一款由 Diego Souza 创建的免费 AI 网关,把数百家模型供应商汇聚到单一端点,自动节省 15–95% 令牌,并提供本地优先、CLI、A2A 与 MCP 支持。

枫枫叶 开源项目 · 刚刚 · 1 阅读 · 0 评论

温馨提示:本文发布于 2026-11-19,内容可能随时间推移而失效;若遇到链接打不开、资源异常等情况,可在下方「反馈」中告诉我们,我们会尽快核实处理。

把几十个 AI 供应商的免费额度攒到一起,听起来是省钱的好主意,真做起来却是另一回事:每家一套 SDK、每家一套速率限制、每家一套注册与鉴权流程,最后连自己手里到底还剩多少令牌都说不清。OmniRoute 正是冲着这份琐碎来的——它把分散的供应商入口收拢成一个可路由的网关,让调用方只面对单一端点,而把额度核算、模型发现和令牌节省这些重复的活儿交给工具本身。对一个正在调试提示词、同时想压低推理成本的枫叶来说,值得关心的不是又一款聊天界面,而是背后这条链路是否足够透明、是否允许自己掌控数据,以及新增供应商时会不会推倒重来。下面按是什么、能做什么、适合谁、怎么上手、跑在哪里、花多少钱、常见疑问和枫叶视角逐层拆开。

OmniRoute是什么?

OmniRoute 是一个由 Diego Souza 创建的开源免费 AI 网关,主要用来把数百家模型供应商聚合到单一端点并自动路由调用,服务于希望省去逐家适配、同时压低令牌开销的枫叶与团队。它自己不发放令牌,而是把第三方各自可用的免费额度登记成目录、去重核算后呈现出来,让使用者看清手里究竟有多少可用资源。站方给出的口径是约 16.2 亿令牌/月,来自第三方免费层的合计估算;目录里收录了 465 条免费层条目、34 个循环池键,其中 17 个池有公开的正向月度预算,外加 5 个 Groq 单模型上限,按共享池去重后得出这个数字。

核心功能

  • 多供应商聚合——把 394 家 AI 供应商接到同一个端点,调用方不必再为每家单独注册和适配 SDK。
  • 免费层目录与核算——收录 465 条免费层条目、34 个循环池键,去重后算出约 16.2 亿令牌/月的可用估算。
  • 自动令牌节省——在路由过程中自动压缩开销,站方给出的幅度是 15%–95%。
  • 模态桥接——把视觉、音频、视频等输入模态接进同一条链路,不再为不同模态分别搭通道。
  • 本地优先与隐私——强调 Private & Local-First,让数据和调用尽量留在自己可控的环境里。
  • 命令行与协议支持——提供完整 CLI,并支持 A2A 与 MCP,便于接进现有编码代理工作流。
  • 雷达与看板——Radar 免费目录可选启用,免费层看板持续展示去重后的核算结果。

使用场景

人群/角色场景描述推荐指数
独立枫叶同时接多家模型做提示词对比,需要单一端点减少适配成本★★★★★
成本敏感的个人用户想把手头第三方免费层额度合并核算,避免重复注册与浪费★★★★☆
编码代理集成者通过 CLI、A2A、MCP 把网关接进自动化编码链路★★★★☆
重视隐私的小团队需要本地优先部署,把调用和数据留在自己环境★★★★☆
多模态应用实验者需要把视觉、音频、视频输入汇到一条路由链路★★★☆☆

操作指南

  • 打开项目的代码仓库页面,确认这是由 Diego Souza 维护的开源项目,再决定是否引入自己的工作流。
  • 按自己的运行环境选择安装方式:站方列出 Docker、源码、pnpm、Arch 等多种方法,Bun 环境还有专门的多阶段 Dockerfile。
  • 准备你手头已有的第三方供应商账号与凭据;网关自身不发放令牌,额度来自你自行接入的免费层。
  • 在配置里连接至少一个供应商,然后把原本分散的模型调用改写到统一端点,先跑一条最小请求验证连通性。
  • 进入免费层看板查看去重后的额度估算,了解哪些池有公开月度预算,哪些需要区域身份核验后才开放。
  • 按需开启 Radar 等可选项,并把 CLI、A2A 或 MCP 接进你已有的编码代理,让路由能力在熟悉的工具里生效。
  • 点击 立即使用 或访问 OmniRoute,查看最新的安装说明与文档后再开始配置。

支持平台

从现有资料看,OmniRoute 走的是到处可跑的路线:有命令行 CLI 入口,也能通过 Docker 容器、源码编译、pnpm 与 Arch 安装方式落地;Bun 环境下有专门的多阶段 Dockerfile,数据库层在 Bun 下用内置 bun:sqlite,在 Node.js 或 sql.js 场景回退到 better-sqlite3。协议层面支持 A2A 与 MCP,便于对接编码代理;同时提供网页端的免费层看板用于查看额度。至于独立小程序、浏览器插件这类形态,站方没有明确列出。

产品定价

站方未公开价格信息,以站内为准。就现有资料看,OmniRoute 以开源项目形式提供,强调自带供应商账号、接入第三方免费层,并把各家的额度与限制如实展示,而不是由自己发放令牌或承诺固定额度;具体的成本取决于你所接入供应商的条款与用量,建议以项目文档和站内说明为准。

常见问题

Q:OmniRoute 会自己送令牌吗?

不会。站方明确说明令牌来自第三方各自可用的免费层,网关只做目录登记、去重核算与路由,约 16.2 亿令牌/月是跨多个免费池的合计估算,并非来自 OmniRoute 的赠送。

Q:那个令牌数字会变吗?

会。目录每两周按实时数据重新审计一次,供应商结束免费层时数字会下降,新增免费层时会上升;需要区域身份核验的额度(当前是 ModelScope)单独列出,不计入头条数字。

Q:我能在哪些环境里跑?

可以走 CLI、Docker、源码、pnpm 或 Arch 等安装方式,Bun 下有专门的多阶段 Dockerfile,运行时在 Bun 与 Node.js(或 sql.js)上都有对应数据库方案;再通过 A2A、MCP 把它接进你的编码工具链。

枫叶小结

把取舍说清楚:OmniRoute 的价值集中在聚合与透明核算——它替你收拾多供应商、多 SDK、多速率限制的一地鸡毛,并把免费层额度算到可读;代价是它不替你承担账号与额度来源,所有令牌仍取决于第三方条款,且需要你自行完成安装与配置。它适合愿意掌控数据流、手头已有若干供应商账号、并希望把路由与令牌节省统一到一处的技术用户;如果你只想要一个开箱即用的聊天界面、或完全不想碰部署,那么它带来的复杂度可能超过收益。

版权与免责声明
本站名称:星际导航 永久网址:https://dhw.wchulian.com.cn
  • 1 如果您喜欢本站,点击这儿捐赠本站,感谢支持!
  • 2 可能会帮助到你: 使用帮助 报毒说明 侵权删除 联系我们
  • 3 修改版本安卓及电脑软件,加群提示为修改者自留,非本站信息,注意鉴别;
  • 4 本网站部分资源来源于网络,仅供大家学习与参考,请于下载后 24 小时内删除;

相关推荐

相关文章
Java面试刷题与SpringCloud实战学习教程连载:悟空聊架构 开源项目 Java面试刷题与SpringCloud实战学习教程连载:悟空聊架构 悟空聊架构收录的这套学习教程围绕Java后端展开,系统讲解项目搭建、架构业务与技术要点,连载内容包含环境部署、刷题小程序、微服务与分布式实战,帮助开发者用零碎时… PDF解析OCR与文档阅读工具:MinerU 开源项目 PDF解析OCR与文档阅读工具:MinerU 是一款文档阅读与解析开源工具,支持PDF、扫描件、Word、PPT、Excel等格式转成Markdown,并保留按页按区块的稳定定位。它擅长长文档、表格与公式处… 证件照智能制作开源工具AI抠图换底:HivisionIDPhotos 开源项目 证件照智能制作开源工具AI抠图换底:HivisionIDPhotos 是一套系统性的证件照智能制作算法,依托AI模型工作流完成抠图与证件照生成。它支持纯离线或端云推理,仅用CPU即可轻量级抠图,可按规格生成证件照与六寸排版照,还提… 轻量快速多模型AI聊天客户端开源自托管:NextChat 开源项目 轻量快速多模型AI聊天客户端开源自托管:NextChat 是一款轻量开源AI聊天客户端,支持Claude、DeepSeek、GPT4与Gemini Pro等模型,数据默认留在浏览器本地,提供流式响应与Markdown渲… 程序员学习网站清单推荐:程序员应该访问的最佳网站英文版 开源项目 程序员学习网站清单推荐:程序员应该访问的最佳网站英文版 程序员应该访问的最佳网站英文版是一份持续更新的英文网站资源清单,按求助、资讯、学习、工具与职业等主题整理常用站点,附一句话用途说明,适合想按场景快速定位资源的开… 图片与GIF压缩 隐私优先跨平台工具:PicLite 图轻 开源项目 图片与GIF压缩 隐私优先跨平台工具:PicLite 图轻 图轻是一款隐私优先的图片与 GIF 压缩工具,覆盖浏览器与多个桌面系统。它把压缩尽量留在本地完成,让敏感素材不必外传,提供多种版本与界面选择,适合需要频繁处理图…

发现资源问题?请选择反馈类型后提交,我们会尽快核实处理。

  • 文中的资源、工具或下载链接可能随发布时间变旧而失效,遇到打不开、已下架等情况,可在「反馈」中告诉我们。
  • 部分资源受地区或网络限制,访问失败时可以先切换网络(如 Wi-Fi 与流量互换)或稍后重试。
  • 教程类内容请按文中步骤操作,涉及第三方软件时以该软件官方说明为准,注意甄别付费与广告信息。
  • 建议使用 Safari、Chrome、Edge 等主流浏览器的最新版本浏览,避免出现排版错乱或跳转异常。
必备 枫叶起始页(必备)