OpenRouter 是一個開放且可擴充的「大型語言模型(LLM)API 服務」,讓開發者與企業能夠輕鬆整合市面上多款主流開放或商業 LLM(如 GPT-3.5、LLaMA、Falcon 等),並統一透過單一 API 端點呼叫。相較於自行架設、維護各種模型伺服器,或是分別對接不同廠商的 API,OpenRouter 提供了:
- 多模型集中管理:在同一平台切換、測試多種模型,無需切換不同廠商介面。
- 統一認證與扣費:一次申請 API 金鑰,後台可設定多種第三方金鑰,統一計費與金流整合。
- 可自訂終端節點:自建或使用 OpenRouter 官方節點,自訂模型部署與版本管理。
- 擴充套件生態:開放程式庫、SDK、Webhook,可快速串接到各種應用場景(聊天機器人、客服系統、內容產生等)。
以下將分為「快速起步」與「進階設定」兩大部分,帶你一步步掌握 OpenRouter 的核心功能與開發流程。
一、快速起步:取得 API 金鑰並呼叫範例
1. 註冊與取得 API Key
- 前往 OpenRouter 官網(https://openrouter.ai)並註冊帳號。
- 登入後進入「API Keys」頁面,新增一組金鑰(Key)。
- 複製該金鑰,稍後在程式中使用。

2. 安裝開發套件
以 Node.js 為例,使用官方套件:
npm install openrouter
3. 基本呼叫範例
以下示範如何使用 OpenRouter 串接 GPT-3.5 產生文字回應:
import OpenRouter from "openrouter";
const client = new OpenRouter({
apiKey: "YOUR_OPENROUTER_API_KEY"
});
async function generateText(prompt) {
const response = await client.chat.completions.create({
model: "gpt-3.5-turbo",
messages: [{ role: "user", content: prompt }],
max_tokens: 150
});
console.log(response.choices[0].message.content);
}
generateText("請簡單介紹台灣的珍珠奶茶文化。");
二、進階設定:自訂路由與多模型切換
1. 自建路由節點
若擔心官方節點延遲,或要控制資料安全,可自建節點。步驟如下:
- 取得 OpenRouter 開源程式碼(GitHub:https://github.com/OpenRouterAI/openrouter)。
- 按照 README 安裝 Docker、啟動容器,並設定環境變數
API_KEY
、MODEL_PROVIDER_KEYS
。 - 將程式掛載到專屬域名,並設定 TLS 加密。
- 在 Dashboard 加入自建節點 URL,並指定用於呼叫的 Model。
2. 切換不同 LLM
OpenRouter 支援同時配置多種模型服務商。例如,結合 OpenAI 與 Hugging Face:
const client = new OpenRouter({
apiKey: "YOUR_OPENROUTER_API_KEY",
baseURL: "https://your-custom-node.com" <em>// 或官方節點</em>
});
<em>// 呼叫 OpenAI GPT-4</em>
await client.chat.completions.create({
model: "openai/gpt-4",
messages: [{ role: "user", content: "寫一段產品文案" }]
});
<em>// 呼叫 Hugging Face 的 LLaMA</em>
await client.chat.completions.create({
model: "hf/llama-2-7b-chat",
messages: [{ role: "user", content: "請生成詩詞" }]
});
3. Webhook 回調與使用案例
- Webhook 通知:可設定
webhook_url
,當模型回應完成時,將結果 POST 至指定 URL,方便後端整合異步任務。 - 速率限制與佇列管理:在 Dashboard 中設定每秒請求上限,並啟用佇列機制,確保高並發時也能平滑處理。
- 日誌與監控:透過內建日誌面板,查看每個請求的延遲、錯誤率與使用量,並與 Datadog、Grafana 等工具整合。
三、實際應用範例
- 智能客服系統
- 使用 OpenRouter 同時串接 GPT-3.5 與本地開源模型,自動回應常見問題,並在必要時切換到商業版模型以處理複雜查詢。
- 內容生產工具
- 開發內部行銷助手,透過多模型拼接(如先用小型開源模型產標題,再用 GPT-4 拓展段落),既節省成本又保有品質。
- 教育輔助平台
- 依學生需求動態選擇模型:中小學題目用輕量模型速計算,研究生論文摘要用 GPT-4 深度生成。
結語
OpenRouter 以「一條 API 通路、多模型管理」的核心價值,協助開發者與企業快速佈署、擴充與優化 AI 應用。無論是快速原型開發,還是大規模商用佈署,都能享受統一認證、統一監控與可彈性擴充的便捷體驗。立即開始使用 OpenRouter,加速你的 AI 開發之旅!