OpenRouter LLM聚合平台

---

2025-09-09 by dongnan

开始之前

OpenRouter 是一个 大语言模型（LLM）聚合平台，有点像 “LLM 版的 API 网关 + 路由器”。

一句话解释

OpenRouter 让你通过一套统一的 API，就能调用 OpenAI、Anthropic、Mistral、DeepSeek、Qwen等不同厂商的语言模型，并且还能加上路由、日志、限流、计费等功能。

---

核心特点

1. 统一接口

   • 开发者只需要学习一套 API 调用方式（兼容 OpenAI API 协议），就能无缝切换不同模型。
   • 比如你用 openai.ChatCompletion.create()，背后可以路由到 GPT-4、Claude 3、LLaMA-3 等。

2. 模型聚合

   • 集成了主流 LLM 提供商：OpenAI、Anthropic、Google、Mistral、Meta 等。
   • 还支持开源模型的推理服务。

3. 路由功能

   • 可以根据 价格、延迟、性能 自动选择最优模型。
   • 支持多模型 fallback（比如 GPT-4 超时，就退到 Claude 3）。

4. 额外能力

   • 日志 & 可观测性：记录调用日志，方便调试和监控。
   • 限流 & 配额管理：对团队/应用设置调用限制。
   • 计费统一化：不同模型的计费方式不同，OpenRouter 会帮你统一结算。
   • 隐私/合规：提供企业级合规支持。

举个例子

假设你在做一个聊天机器人，有两种方式：

• 直接用 OpenAI API → 只能调用 GPT-3.5 / GPT-4。
• 如果用 OpenRouter API → 你可以写一段通用代码，然后让它自动选择最优的模型（比如 Claude-3-Sonnet 更便宜，就优先用它；需要高推理能力时才用 GPT-4）。

总结

OpenRouter = 模型聚合网关，统一调用不同 LLM

参考

• https://openrouter.ai/