AI API 中間商唔講你知嘅秘密：一蚊 API call 嘅成本解剖

一個 developer 開咗 OpenAI 帳戶，拎到 API key，寫幾行 code call GPT-4o，覺得自己已經係直接同模型溝通，冇中間人食水。呢個諗法，錯得離譜。

由你撳 “Send” 嗰刻開始，你嗰一蚊美金嘅 API call 已經經過至少三四層中間商：Cloud provider 收 compute markup、API gateway 收 request fee、Anthropic/OpenAI 本身嘅 margin、模型推理嘅 infra cost、仲有如果你用緊任何 proxy/router 工具嘅 markup。問題係，呢啲 markup 大部份係 opaque 嘅——你睇唔到，供應商唔會話你知，而最諷刺嘅係，成條供應鏈入面利潤最高嘅環節往往唔係模型本身，而係「幫你揀模型」嗰層。

Relay Markup — 最基本嘅食水

最簡單嘅中間商模式係 relay proxy：你擺個 server 喺中間，所有 request 經佢轉發去 upstream provider，然後你喺每條 request 加 markup。呢類服務通常包裝成「簡化 API 管理」「統一介面」「fallback 策略」，但本質上就係一個中間人角色。

典型例子：你 call GPT-4o 嘅 input cost 係 $2.50/1M tokens，某個 relay service 收你 $3.50/1M tokens，表面上只係貴咗四成，但如果你計埋 output token ($10/1M vs $14/1M)，實際 markup 可以差好遠。呢啲 service 仲會喺 caching、rate limiting、logging 嗰度再收割你一筆。

問題係呢種 relay markup 對於大部分 startup 嚟講根本冇必要。一個 nginx reverse proxy 加幾行 middleware 就做到相同功能，但因為 setup 要花幾個鐘，好多團隊就寧願俾錢了事。中間商食嘅就係你呢個 convenience premium。

真正搵食嘅位唔係 relay markup，而係佢哋點樣捆綁銷售——「免費」嘅 caching layer 其實係 collecting usage data，「平價」嘅 fallback 其實係用緊質素差好遠嘅模型而冇話你知。你以為轉咗去 Claude，其實佢 fallback 咗去 Gemini 1.5 Flash，而個 output quality drop 你察覺唔到，因為你冇逐條 response check。

Model Router — 最聰明嘅食水方法

Weave Router 呢類工具嘅出現改變咗遊戲規則。佢唔係單純轉發 request，而係用一個 on-box embedder 喺 <50ms 內分析你個 prompt，然後決定送去邊個模型——OpenAI、Anthropic 定 Gemini。聽落好合理，甚至係 developer 恩物。但你諗深一層：呢個 router 嘅 incentive 係咩？係幫你慳錢？定係 maximise 佢自己嘅 profit margin？

答案係後者。Router 可以 control 你每個 request 去邊個 provider，而每個 provider 俾佢嘅批發價同佢收你嘅零售價之間有巨大差距。舉個例：如果 Anthropic 俾 router 嘅 batch price 係 $6/1M output tokens，但 router 收你 $10/1M，咁佢嘅 incentive 就係「盡量將你啲 request 送去 Anthropic」，即使 Claude 未必係最適合你個 task 嘅模型。

最恐怖嘅係 RouterArena leaderboard 呢類 benchmark。表面上係俾 developer 比較 router 嘅 accuracy-cost tradeoff，實際上係一個 market-making 工具——透過公開 benchmarking，router company 可以證明自己「有做嘢」，然後合理化佢哋嘅 markup。你以為個 leaderboard 係幫你，其實係幫佢哋 sell 你。

而且 router 嘅 routing logic 係 proprietary 嘅。你冇辦法 verify 佢嘅 routing decision 係咪真係 optimal。佢話你個 prompt「需要 Claude 嘅 reasoning capability」，但可能只係因為 Anthropic 嗰日俾緊 rebate。呢種 information asymmetry 係中間商最鍾意嘅護城河。

Reverse API — 逆向嘅暴利生意

如果 relay proxy 同 model router 仲可以話係「增值服務」，咁逆向 API 就係赤裸嘅套利。

chatgpt2api 呢類 open-source project 做嘅係：逆向 ChatGPT web interface，令你可以用 OpenAI-compatible API call 去 call 免費嘅 ChatGPT web service，然後收你錢。本質上係用 $0 嘅 input cost 去 serve 你啲 request，然後 charge 你 market rate 甚至更高。

3.3K stars，Python/TypeScript，MIT license。呢個 project 唔係乜嘢 underground hack，而係公開嘅 tool。佢嘅號池管理系統可以自動刷新 Token、輪詢、剔除失效憑證，甚至支援 CPA JSON 導入。成個 infrastructure 已經 industrialised 到可以一鍵 Docker deploy。

WebAI-to-API 做類似嘢，不過 target 係 Gemini web interface。1.2K stars，FastAPI server，expose browser-based LLM 做 local API endpoint。佢嘅 Atlas Cloud provider 同 gpt4free fallback 令你可以用接近零成本去 serve API request。

呢啲逆向 API 點樣賺錢？就係食你唔知價。你俾 $10/1M tokens 嘅 API call，背後可能係用 ChatGPT free tier 或者 Gemini free tier serve 嘅。中間人嘅 margin 可以去到 90%+。而且因為係逆向工程，穩定性冇保證——OpenAI 或者 Google 一改 protocol，成個 service 就跪低，但嗰陣你已經 production 行緊，死死氣要俾更多錢。

點樣唔畀人劏？

作為 developer 或者 startup founder，點樣 protect 自己？唔係叫你唔用任何中間服務，而係要識得問正確嘅問題。

第一，問清楚 routing 嘅 economics。任何 router/proxy 都應該 disclose 每條 request 嘅 actual cost breakdown：input token cost、output token cost、router markup。如果對方話呢啲係商業秘密，轉身走。You’re being played。

第二，run 你自己嘅 benchmark。RouterArena 嘅數字係佢哋嘅環境 run 出嚟嘅，唔等於你嘅 use case。拎你嘅 real prompt set，直接比較 direct API call vs routed call 嘅 cost 同 quality。呢個功夫唔使幾多時間，但可以慳返幾十倍嘅冤枉錢。

第三，用 open-source 替代方案。chatgpt2api 同 WebAI-to-API 係 open-source 嘅，你可以自己 host，自己管理號池，成本只係 server 嘅 compute + 你嘅時間。唔需要俾中間人 markup。當然，呢個做法有 legal risk（違反 ToS），但你至少應該知道呢個 option 存在。

第四，同 provider 直接傾 discount。如果你嘅 usage 去到某個 scale，OpenAI、Anthropic 甚至 Google 都會俾你 volume discount 或者 committed use discount。好多 startup 唔知呢個位，一路俾緊 retail price 而唔知可以傾批發價。

最後，記住一個 principle：任何中間人，如果佢嘅 pricing model 唔透明，佢就係想你唔知自己俾緊幾多錢。AI API 嘅 supply chain 仲係好新，透明度極低，而呢個唔透明性本身就係中間商最大嘅利潤來源。你唯一可以做嘅係保持警惕，validate 每一個 cost item，同埋永遠假設有人喺你條 pipeline 入面食水深咗一浸。