OpenRouter 是一個開放且可擴充的「大型語言模型(LLM)API 服務」,讓開發者與企業能夠輕鬆整合市面上多款主流開放或商業 LLM(如 GPT-3.5、LLaMA、Falcon 等),並統一透過單一 API 端點呼叫。相較於自行架設、維護各種模型伺服器,或是分別對接不同廠商的 API,OpenRouter 提供了:

  • 多模型集中管理:在同一平台切換、測試多種模型,無需切換不同廠商介面。
  • 統一認證與扣費:一次申請 API 金鑰,後台可設定多種第三方金鑰,統一計費與金流整合。
  • 可自訂終端節點:自建或使用 OpenRouter 官方節點,自訂模型部署與版本管理。
  • 擴充套件生態:開放程式庫、SDK、Webhook,可快速串接到各種應用場景(聊天機器人、客服系統、內容產生等)。

以下將分為「快速起步」與「進階設定」兩大部分,帶你一步步掌握 OpenRouter 的核心功能與開發流程。


一、快速起步:取得 API 金鑰並呼叫範例

1. 註冊與取得 API Key

  1. 前往 OpenRouter 官網(https://openrouter.ai)並註冊帳號。
  2. 登入後進入「API Keys」頁面,新增一組金鑰(Key)。
  3. 複製該金鑰,稍後在程式中使用。
API Key

2. 安裝開發套件

以 Node.js 為例,使用官方套件:

npm install openrouter

3. 基本呼叫範例

以下示範如何使用 OpenRouter 串接 GPT-3.5 產生文字回應:

import OpenRouter from "openrouter";

const client = new OpenRouter({
  apiKey: "YOUR_OPENROUTER_API_KEY"
});

async function generateText(prompt) {
  const response = await client.chat.completions.create({
    model: "gpt-3.5-turbo",
    messages: [{ role: "user", content: prompt }],
    max_tokens: 150
  });
  console.log(response.choices[0].message.content);
}

generateText("請簡單介紹台灣的珍珠奶茶文化。");

二、進階設定:自訂路由與多模型切換

1. 自建路由節點

若擔心官方節點延遲,或要控制資料安全,可自建節點。步驟如下:

  1. 取得 OpenRouter 開源程式碼(GitHub:https://github.com/OpenRouterAI/openrouter)。
  2. 按照 README 安裝 Docker、啟動容器,並設定環境變數 API_KEYMODEL_PROVIDER_KEYS
  3. 將程式掛載到專屬域名,並設定 TLS 加密。
  4. 在 Dashboard 加入自建節點 URL,並指定用於呼叫的 Model。

2. 切換不同 LLM

OpenRouter 支援同時配置多種模型服務商。例如,結合 OpenAI 與 Hugging Face:

const client = new OpenRouter({
  apiKey: "YOUR_OPENROUTER_API_KEY",
  baseURL: "https://your-custom-node.com"  <em>// 或官方節點</em>
});
 
<em>// 呼叫 OpenAI GPT-4</em>
await client.chat.completions.create({
  model: "openai/gpt-4",
  messages: [{ role: "user", content: "寫一段產品文案" }]
});

<em>// 呼叫 Hugging Face 的 LLaMA</em>
await client.chat.completions.create({
  model: "hf/llama-2-7b-chat",
  messages: [{ role: "user", content: "請生成詩詞" }]
});

3. Webhook 回調與使用案例

  • Webhook 通知:可設定 webhook_url,當模型回應完成時,將結果 POST 至指定 URL,方便後端整合異步任務。
  • 速率限制與佇列管理:在 Dashboard 中設定每秒請求上限,並啟用佇列機制,確保高並發時也能平滑處理。
  • 日誌與監控:透過內建日誌面板,查看每個請求的延遲、錯誤率與使用量,並與 Datadog、Grafana 等工具整合。

三、實際應用範例

  1. 智能客服系統
    • 使用 OpenRouter 同時串接 GPT-3.5 與本地開源模型,自動回應常見問題,並在必要時切換到商業版模型以處理複雜查詢。
  2. 內容生產工具
    • 開發內部行銷助手,透過多模型拼接(如先用小型開源模型產標題,再用 GPT-4 拓展段落),既節省成本又保有品質。
  3. 教育輔助平台
    • 依學生需求動態選擇模型:中小學題目用輕量模型速計算,研究生論文摘要用 GPT-4 深度生成。

結語

OpenRouter 以「一條 API 通路、多模型管理」的核心價值,協助開發者與企業快速佈署、擴充與優化 AI 應用。無論是快速原型開發,還是大規模商用佈署,都能享受統一認證、統一監控與可彈性擴充的便捷體驗。立即開始使用 OpenRouter,加速你的 AI 開發之旅!