統一 LLM 閘道 · 一把 Key 調 400+ 模型 · 路由機制 · 程式碼示例 · 定價與選型
正在同時對接 GPT、Claude、Gemini 的開發者與小團隊常被「多廠商 Key 管理、SDK 差異、failover 手寫邏輯」拖慢上線。本文給出 OpenRouter 統一 LLM API 閘道的完整接入路徑:一把 Bearer Key 調 70+ 提供商、400+ 模型,端點 https://openrouter.ai/api/v1/chat/completions,OpenAI 相容、模型命名 vendor/model。含雙層路由對照表、OpenRouter vs 直連 API 決策矩陣、六步 Runbook(註冊 → Key → 環境變數 → curl → SDK → fallback 鏈)、Python/Node 全棧程式碼示例、定價與 25+ 免費模型,並與OpenRouter 排行榜與選型長文互鏈。
OpenRouter 本質是統一 LLM API 閘道(Unified LLM Gateway):你只需維護一把 API Key,即可透過 OpenAI 相容協定存取 OpenAI、Anthropic、Google、DeepSeek 等廠商模型,無需為每家單獨寫鑑權與 SDK 適配層。但在決定遷移前,應先認清「直連多廠商」在生產裡常見的五類隱性成本。
多 Key 輪換稅:GPT、Claude、Gemini 各需獨立帳號與帳單,Key 外洩輪換、配額監控與告警分散在三套控制台,維運面指數膨脹。
SDK 方言稅:雖多數支援 OpenAI 格式,但 base_url、Header(如 Anthropic 版本號)、串流欄位與 tool call schema 仍有差異,Agent 框架切換模型時要改多處。
Failover 手寫稅:主模型 429 或宕機時需自寫重試鏈、指數退避與備模型映射;缺統一路由層時,每次加新模型都要改業務程式碼。
定價對帳稅:各廠商計價單位、快取折扣與 batch 規則不同,FinOps 難以在一張表裡對比「同一 prompt 換模型貴多少」。
免費額度分散稅:各平台免費 tier 規則不一;OpenRouter 聚合 25+ 免費模型並統一配額(未儲值 50 次/日,儲值 $10 後 1000 次/日,20 次/分鐘),但需理解平台費與 BYOK 邊界。
認清以上痛點後,再對照下一節的路由機制與對比表,判斷 OpenRouter 是否匹配你的延遲、合規與呼叫量級假設。
OpenRouter 的路由分兩層:Model Routing(選哪個模型)與 Provider Routing(同一模型由哪個後端提供商承載)。理解這兩層是設定 failover 與成本控制的前提。
| 路由層 | 控制欄位 | 行為說明 |
|---|---|---|
| Model Routing | 請求體 model 欄位 | 指定具體模型 ID(如 openai/gpt-4o)或 magic 值 openrouter/auto,由平台按任務與價格自動選型 |
| Provider Routing | 請求體 provider 物件 | 在同一模型的多個後端間做價格加權路由;可設 sort: "price"、排除特定 provider、偏好低延遲或特定區域 |
| Auto Failover | 平台內建 + models 陣列 | 主模型不可用時自動嘗試備選;也可在單次請求中傳入 fallback 模型列表 |
| 鑑權 | Authorization: Bearer YOUR_KEY | 統一 Bearer Token;相容 OpenAI SDK,僅需改 base_url 為 https://openrouter.ai/api/v1 |
一把 Key、一個端點、一種 SDK 方言——Model 層選「誰回答」,Provider 層選「誰承載」。
| 維度 | OpenRouter 統一閘道 | 直連 OpenAI / Anthropic / Google |
|---|---|---|
| Key 管理 | 一把 Key 調 400+ 模型 | 每廠商獨立 Key 與帳單 |
| 協定 | OpenAI 相容 /v1/chat/completions | 各家原生端點,部分欄位不相容 |
| Failover | 內建 auto failover + 可配 fallback 鏈 | 需自研重試與備路邏輯 |
| Token 定價 | 依廠商標價,不對 token 加價 | 廠商原價;無中間層 |
| 平台費 | 儲值 5.5%(最低 $0.80);crypto 5%;BYOK 前 100 萬 req/月免費 | 無閘道費;BYOK 不適用 |
| 延遲 | 額外 hop,通常 +10–80ms | 直連最低延遲 |
| 合規與特性 | 資料經第三方路由;難用廠商獨占 beta 特性 | 可簽企業 DPA;可用最新 vendor-only 功能 |
選型時可結合OpenRouter 真實呼叫排行榜與模型趨勢,把「開發者在使用什麼」與「路由策略」放在同一張評審表裡。
以下六步可在 30 分鐘內完成首次呼叫;每步產出可寫入團隊 README,便於 onboarding 新成員。
註冊帳號:造訪 openrouter.ai,用 GitHub 或信箱建立帳戶。
建立 API Key:進入 Keys 頁面產生 Key,立即複製;生產環境勿提交到 Git,用金鑰管理服務託管。
設定環境變數:export OPENROUTER_API_KEY="sk-or-...",CI/CD 與本機 .env 保持一致命名。
首次 curl 驗證:對 /v1/chat/completions 發 POST,確認 200 與 choices[0].message 結構。
設定 OpenAI SDK:Python/Node 中將 base_url 指向 OpenRouter,可選加 HTTP-Referer 與 X-Title 參與排行榜統計。
測試 fallback 鏈:用 models 陣列或故意指定不可用模型,驗證 auto failover 到備模型並記錄日誌。
curl https://openrouter.ai/api/v1/chat/completions \
-H "Authorization: Bearer $OPENROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "openai/gpt-4o-mini",
"messages": [{"role": "user", "content": "Hello from OpenRouter"}]
}'
import os, requests
resp = requests.post(
"https://openrouter.ai/api/v1/chat/completions",
headers={
"Authorization": f"Bearer {os.environ['OPENROUTER_API_KEY']}",
"Content-Type": "application/json",
},
json={
"model": "anthropic/claude-sonnet-4",
"messages": [{"role": "user", "content": "Explain Model Routing vs Provider Routing"}],
},
)
print(resp.json()["choices"][0]["message"]["content"])
from openai import OpenAI
client = OpenAI(
base_url="https://openrouter.ai/api/v1",
api_key=os.environ["OPENROUTER_API_KEY"],
default_headers={
"HTTP-Referer": "https://your-app.example.com",
"X-Title": "My Agent App",
},
)
completion = client.chat.completions.create(
model="google/gemini-2.5-pro-preview",
messages=[{"role": "user", "content": "Summarize OpenRouter pricing"}],
)
print(completion.choices[0].message.content)
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://openrouter.ai/api/v1",
apiKey: process.env.OPENROUTER_API_KEY,
defaultHeaders: {
"HTTP-Referer": "https://your-app.example.com",
"X-Title": "My Agent App",
},
});
const res = await client.chat.completions.create({
model: "openai/gpt-4o",
messages: [{ role: "user", content: "Hello" }],
});
console.log(res.choices[0].message.content);
const stream = await client.chat.completions.create({
model: "anthropic/claude-sonnet-4",
messages: [{ role: "user", content: "Stream this response" }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content || "");
}
{
"model": "openai/gpt-4o",
"models": [
"openai/gpt-4o",
"anthropic/claude-sonnet-4",
"google/gemini-2.5-flash-preview"
],
"messages": [{"role": "user", "content": "If primary fails, try fallbacks"}]
}
curl https://openrouter.ai/api/v1/models \
-H "Authorization: Bearer $OPENROUTER_API_KEY" | jq '.data[] | {id, pricing}'
提示:模型 ID 統一為 vendor/model 格式;用 openrouter/auto 可讓平台在能力與價格間自動平衡,適合原型階段。
OpenRouter 的核心承諾是不對 token 加價——你付的是各模型廠商公開標價,平台透過儲值手續費與 BYOK 超額費盈利,而非在 inference 單價上抽成。
延遲敏感:閘道 hop 通常帶來 10–80ms 額外開銷;超低延遲 trading、即時語音應直連。
超高呼叫量:百萬級日呼叫時 5.5% 儲值費 + 路由 hop 可能不如企業直簽划算。
強合規:金融、醫療等需資料不經過第三方的場景,應直連並簽 DPA。
廠商獨占特性:需 Anthropic 最新 beta、OpenAI Assistants v2 等 vendor-only API 時,閘道可能滯後或不可用。
注意:免費額度與費率以 OpenRouter 官網為準;上線前用 staging Key 跑 24h 壓測驗證帳單與限流行為。
下列參數可直接引用進技術方案或 README;來源為 OpenRouter 官方文件與平台公開資料(2026 年 7 月)。
vendor/model。若你的 Agent 產品或技術部落格需要同時觸達中英文開發者,OpenRouter 類 API 文件的 SEO 需注意以下工程實踐(而非簡單機翻):
hreflang;避免同一 URL 混兩種語言導致 Google 判 duplicate。OpenRouter 解決了「多模型 API 統一接入」,但本機開發機在休眠、系統更新與行程被殺時會讓 7×24 Agent、cron 與 webhook 回呼中斷——API Key 再穩定,宿主不穩定仍會導致 failover 鏈空轉。筆電合蓋後 OpenClaw、LangGraph 或自研 daemon 無法保證 SLA;純 Linux VPS 又缺 Apple Silicon 與 macOS 工具鏈。對需要長期在線的 AI Agent 與自動化流水線,VpsMesh 的 Mac Mini 雲端租用通常是更優解:專用節點、彈性租期、可稽核環境,讓 OpenRouter 路由策略跑在真正 7×24 在線的宿主上,而不是賭本機機器今晚不合蓋。
模型 token 依各廠商公開價結算,不對 token 加價。平台收入來自儲值手續費(5.5%,最低 $0.80)、crypto 5% 與 BYOK 超額 5%。詳見價格頁了解 Agent 宿主成本如何與 API 帳單一併規劃。
端點 openrouter.ai 在多數網路下可直接存取;若不穩定可檢查 DNS/代理或使用 BYOK。生產環境建議把呼叫方部署在穩定雲端節點,參見幫助中心連通性說明。
聚合 70+ 提供商、400+ 模型,含 GPT、Claude、Gemini、DeepSeek、Llama 等。選型可參考OpenRouter 排行榜與趨勢長文。
支援 Bearer 鑑權與 BYOK;資料會經 OpenRouter 路由至各 provider。強合規場景需評估第三方閘道是否滿足 DPA 要求,必要時直連廠商 API。
OpenRouter 是多廠商統一閘道,協定相容 OpenAI;OpenAI API 僅 OpenAI 自家模型。遷移時改 base_url 與 model 即可,詳見上文 Runbook。
平台提供 25+ 免費模型:未儲值 50 次/日,儲值 $10 後 1000 次/日,限速 20 次/分鐘。可用 /v1/models 篩選 pricing.prompt: "0" 條目。
推薦 pip install openai,設定 base_url="https://openrouter.ai/api/v1" 與環境變數 OPENROUTER_API_KEY;或用 requests 直接 POST,見第三節程式碼區塊。
不加價。Token 依各模型廠商標價扣款;平台僅收儲值費與 BYOK 超額費。大規模呼叫前建議用儀表板對比直連總成本(含 5.5% 手續費與 10–80ms 延遲 trade-off)。