跳到主要内容
技术标签共 2 个项目合计 ★ 134,235平均 ★ 67,118

llm-gateway 开源项目合集

这里聚合了 2 个与 llm-gateway 相关的开源项目,适合快速判断哪些工具值得继续深入。

语言构成TypeScript · 1Go · 1

高星代表

这个分组里最值得先看的 2 个

按 Star 数排序

项目列表按 stars 从高到低

cheaper-inference
OmniRoute

OmniRoute 是一个开源 AI 网关服务,提供统一 API 端点接入 60+ LLM 提供商,通过智能路由、自动回退和负载均衡实现低成本、高可用的 AI 推理,支持多模态与多种协议集成。

83.1kTypeScript
QuantumNous
new-api

New API 是一个统一的 AI 模型网关与资产管理平台,支持将多种大语言模型(如 OpenAI、Claude、Gemini)转换为统一兼容格式,实现模型的聚合、分发、计费与多租户管理,适用于个人与企业级 AI 服务集成。

51.1kGo