多 AI 模型切換的困局和解法:CC-Switch、BitRouter、multi-llm-ts 實戰
TL;DR
- 多 AI 模型三大痛點:介面分散切換麻煩、記憶唔共享要重複 brief context、月費加埋高達 $60 USD
- CC-Switch CLI(2,700 星,Rust 寫):統一管理 Claude Code / Codex / Gemini / OpenCode / OpenClaw 五個 coding assistant
- BitRouter:LLM proxy 層,agent 友好,所有請求統一入口,支援 agent firewall + agentic payment
- multi-llm-ts:TypeScript developer 一個
npm install搞掂多 LLM provider 接入 - 我嘅 setup:OpenCode + CC-Switch + 自建 memory markdown + API pay-as-you-go,省錢又靈活
最誇張嗰陣,我開咗八個 AI 介面——然後已經唔記得我問咗邊個乜嘢問題,仲唔記得係邊個答得好啲。
呢個唔係個別現象。V2EX 上面熱帖:好多 developer 喊咁話「我一個人用緊 Claude Pro、GPT Plus、Gemini Advanced,每個月課金成三幾千蚊港紙,但係轉來轉去好煩」。
三大痛點
介面切換:你係度用緊 Claude 寫 code,突然要查一件事,要開返 ChatGPT,copy paste,搞來搞去好累。
記憶唔共享:你喺 Claude 度建立咗嘅對話歷史、你嘅偏好、你嘅 project context,換去 ChatGPT 嗰一刻全部清零。就好似你請咗五個秘書,但係佢哋唔識溝通,每次要重新 brief 晒所有嘢。
成本問題:Claude Pro $20 USD/月 + GPT Plus $20 USD/月 + Gemini Advanced $20 USD/月 = $60 USD,差唔多五百蚊港紙。如果你係 indie developer,呢個係真係有啲肉赤。
最大嘅矛盾係——你知道唔同工具各有優勢,但係管理成本又係咁高。
社群嘅解法(各有利弊)
自建 API gateway(例如 newapi) — 最 hardcore,需要自己 deploy server。靈活性最高,但門檻高。
現成聚合服務(slock.ai、lody.ai、xurl) — 方便,但你要信任第三方平台,data 係過佢哋度,私隱同穩定性係問題。
開源方案 OpenCode — 類似 Claude Code 但更 flexible,可以接多個 model backend。
維護共同 MEMORY 文件 — 你自己寫一份 markdown,記低你嘅 project context、偏好、背景資料,每次開新 chat,都把呢份文件 paste 入去。係,係人力嘅,但有些人真係咁做。
仲有一個值得留意嘅趨勢:Codex 支援從 Claude Code 導入 session——唔同工具開始認得大家。Agent protocol layer 係在 converge 緊。
真正嘅解法:CC-Switch + BitRouter
我主要用兩個工具。
CC-Switch CLI
GitHub 上面 2,700 星嘅開源工具,用 Rust 寫,支援 Claude Code、Codex、Gemini、OpenCode、OpenClaw 五個 AI coding assistant。
核心功能:
-
Provider management — 設定多個 endpoint,一鍵切換。仲有 speed test 同 stream health check,即時睇邊個 provider 最快、最穩定。
-
MCP Server Management — 如果你係做 agentic workflow,你嘅 AI 要接各種工具(搜尋、database、API),CC-Switch 幫你統一管理呢啲 MCP server,唔使每個 AI app 分開設定。設定一次,所有 AI 共用。
-
Prompts management — Claude 有 CLAUDE.md,Codex 有 AGENTS.md,Gemini 有 GEMINI.md,CC-Switch 幫你維護呢啲 file,確保你嘅指示係同步嘅。Single Source of Truth——唔使每個工具分開寫一份 brief。
BitRouter
更底層嘅東西。一個 LLM proxy,用 Rust 寫,專為 AI agent 設計。你係佢面前放一個統一入口,然後佢負責 route 去唔同嘅 provider——OpenAI、Anthropic、Google,甚至你自己嘅 custom model。
你嘅 app 或者 agent 只需要對話 BitRouter,唔需要知道背後係 Claude 定係 GPT。
高階 feature:
- Agent firewall — inspect 每個 request,警告或者攔截有問題嘅內容
- Agentic payment — AI agent 自動付費嘅基建,呢個係未來嘅方向
CC-Switch 係幫你作為一個 developer 管理工具(CLI 層);BitRouter 係幫你嘅 agent 或者 app 做 routing(Infrastructure 層)。兩個係唔同層次嘅解法。
TypeScript 開發者:multi-llm-ts
如果你係做 web app 或者 TypeScript 嘅 developer,有個更簡單嘅選擇——multi-llm-ts,一個 npm install 搞掂。
統一接口接入多個 LLM provider API。支援 streaming、function calling、vision、structured output、multi-turn conversation 同 abort 功能。Provider 方面支援 Anthropic、Google、OpenAI、DeepSeek、Groq、Mistral、Ollama——幾乎主流嘅都有。
你係 TypeScript 寫一次 code,想換 provider 只係改一個 config。如果你係 indie hacker 喺做 AI side project,呢個可以省好多時間。
我嘅個人 Setup
日常 coding assistant:主要用 OpenCode,支援多個模型 backend,可以用免費或者平啲嘅 API,唔需要每個 provider 各自訂閱。
工具管理:CC-Switch 統一管理 MCP tools 同 system prompts。唔同嘅 AI tool 都 share 同一份 CLAUDE.md / AGENTS.md,唔使重複寫。
Context 處理:靠自建嘅 AI agent framework。喺 memory/ directory 下面維護一堆 markdown 文件,記低 project context、preferences、lesson learned。每次起一個 AI session,relevant context 會自動 inject。呢個係 low-tech 但係非常有效嘅方法——自己控制晒,唔需要依賴 AI 平台提供呢個功能。
成本:唔再每個 provider 都訂月費,轉左去按 token 計嘅 API mode。Claude API、OpenAI API 都係 pay-as-you-go。一般 developer 嘅用量,每個月加埋可能幾十蚊美金,比三個 subscription 加埋平好多。
解決方案分層總結
| 層次 | 工具 | 適合誰 |
|---|---|---|
| UI 層 | slock.ai、lody.ai 等聚合服務 | 想方便但要信第三方 |
| CLI 層 | CC-Switch CLI | Developer 最好用 |
| Infrastructure 層 | BitRouter | 自建 LLM proxy,agent 友好 |
| Code 層 | multi-llm-ts | TypeScript developer |
| DIY 層 | MEMORY markdown + API mode | 最 flexible,最省錢 |
短期 vs 長期
各大 AI 公司想 lock-in 你——Claude Pro、GPT Plus 都有獨家 feature,佢哋唔想你輕易離開。
但開發者生態係唔接受孤島嘅。MCP protocol 係 Anthropic 推出之後,OpenAI、Google 都接受咗,變成 industry standard。呢個係好好嘅訊號——agent protocol layer 會 converge。
短期——靠 gateway 工具解決;長期——標準協議會 emerge。 而我哋依家學識用 CC-Switch、BitRouter 呢類工具,係為將來嗰個統一生態打底。
AI tool 唔係愈多愈好,係要愈 composable 愈好。可以自由組合、靈活切換嘅 setup,先係真正嘅生產力提升。
工具連結:
- CC-Switch CLI:github.com/SaladDay/cc-switch-cli(2.7K ★)
- BitRouter:github.com/bitrouter/bitrouter
- multi-llm-ts:github.com/nbonamy/multi-llm-ts
- V2EX 討論原帖:v2ex.com/t/1213176
更多 AI-first 生產力工具,睇 richmindsetzone.com。