開源企業 AI Chat 平台深度評測:Onyx 能否取代 ChatGPT Enterprise?
香港 startup 圈有個有趣現象:十年前大家追捧「SaaS 取代 on-premise」,今日卻反過來——愈來愈多團隊主動把 AI 基建搬回自己 server。ChatGPT Enterprise 每位用戶月費 US$60,年繳即 US$720。十人團隊一年盛惠 US$7,200,一百人就是 US$72,000——而且你仲要交出全部對話數據,永遠無法知道自己啲 prompt 去咗邊度處理。OpenAI 的 SOC 2 報告你可以睇,但合約條款改咗你只能硬食。2026 年的香港企業,仲接受到這種黑盒式 AI 部署嗎?
開源社群給出的答案是 Onyx — GitHub 近 30,000 stars、MIT 授權、支援所有主流 LLM(OpenAI / Anthropic / Gemini / Ollama / vLLM / LiteLLM)、50+ 數據連接器開箱即用。本文從合規、成本、部署三個維度,剖析 Onyx 能否真正取代 ChatGPT Enterprise。
合規:數據 Sovereignty 嘅香港現實
如果你做金融、醫療、法律或任何受監管行業,ChatGPT Enterprise 最大的障礙從來唔係功能,而係數據控制權。OpenAI 的企業合約雖然保證不將你的數據用於訓練,但你的對話內容仍然儲存在 OpenAI 的 infrastructure,受美國法律管轄。香港金管局、私隱專員公署對跨境數據 transfer 的指引越來越嚴格,2026 年這個議題只會更敏感。
Onyx 的 Approach 完全不同:你可以將整個 stack 部署在自己的 AWS VPC、Azure 或 on-premise server。所有數據——包括對話歷史、索引向量、文檔快取——全部留在你的網絡邊界內。LLM 層面,你可以選擇 self-hosted model(vLLM / Ollama),確保 token 永遠不離開你的 server;或者 hybrid 方式,敏感查詢走本地模型,一般查詢經 API 調用 GPT-4o。
Onyx 的 RBAC 細緻到可以按 connector、按 agent、按查詢類型做權限控制。還有 query history audit log,方便 compliance team 做定期審查。OpenAI 到今日都無提供「用戶 A 查咗邊啲公司機密資料」的 granular audit trail。
成本:唔止 licence fee 咁簡單
ChatGPT Enterprise 的 pricing 表面直接:US$60/user/month。但你一要 custom model、私有 deployment、dedicated capacity,就要行 Enterprise Agreement。實際經驗是:50 人團隊,一年總成本超過 US$40,000,而且年年加價。
Onyx Community Edition 完全免費(MIT license),你只需支付 LLM API 費用或 self-hosting 的 GPU 成本。以一個 50 人團隊 real-world 使用量計:
- OpenAI API 透過 Onyx 調用:約 US$200-400/月(假設每人每日 20-30 次查詢)
- Self-hosting LLM(Llama 3 70B on 2x A100):約 US$1,500/月(GPU rental)
- Infrastructure(EC2 + RDS + Redis + S3):約 US$200-500/月
自託管路線,年成本約 US$20,000-24,000,為 ChatGPT Enterprise 的一半。如果選用 API 路線,年成本低至 US$7,200-10,800,節省 75-80%。
更重要的是 scaling 邊際成本:ChatGPT Enterprise 用 linear pricing,100 人 = 2x 50 人;Onyx 加用戶只有 LLM API 的 variable cost 增加,infra 基本不變。200 人時,ChatGPT Enterprise 年費 US$144,000,Onyx 走 API 路線約 US$30,000。差距是五倍。
部署:從 5 分鐘到企業級
Onyx 的部署選項設計得聰明:一條 curl command 就可以跑起 Lite mode——純 Chat UI + Agents,不需要 vector store、不需要 Redis、不需要 MinIO,under 1GB RAM。對於只想試水的細團隊,這個 onboarding 體驗比 ChatGPT Enterprise 還要快——後者要等 sales call、簽約、IT admin onboarding。
Full mode 加入 hybrid search index(向量 + keyword)、connector workers、Redis cache、MinIO blob storage。Onyx 官方提供 Docker Compose、Kubernetes (Helm)、Terraform 部署指南,連 AWS / GCP / Azure 的 reference architecture 都有。
Connector 生態是 Onyx 的真正殺著:Google Drive、Confluence、SharePoint、Notion、Slack、GitHub、Jira——超過 50 個 indexed connectors + MCP support。初次 sync 後,connector 會持續增量更新。相比 ChatGPT Enterprise 的 GPTs + retrieval 方案,Onyx 的 document understanding 質量明顯更高,原因是 Onyx 做了 LLM-native chunking + hybrid search + knowledge graph,而不只是簡單的 embedding similarity。
Simon Willison 提出過一個 PMF 框架:成功的開發者工具,不應追求「比 SaaS 更好」,而應該追求「完全不同的 trade-off」。ChatGPT Enterprise 賣的是 zero ops——你什麼都不用管。但這個 promise 的代價是 vendor lock-in。Onyx 賣的是 sovereignty——你 control everything,但你要自己 maintain。對於香港的 mid-size 團隊(10-200 人),這個 trade-off 往往更划算。
結語:唔係二選一,而係策略選擇
Onyx 唔完美。它的 UI polish 比不上 ChatGPT Enterprise,mobile app 仍在開發,Lite mode 缺少 connector sync。它的社群模式意味著你遇到 bug 時要走 GitHub Issues,唔係開 support ticket。
但 Onyx 解決了一個 ChatGPT Enterprise 永遠無法解決的問題:讓你真正擁有自己的 AI infrastructure。對於數據合規要求高的香港團隊、對於希望長期控制 LLM 成本的 CTO、對於想 build 而不只是 consume 的開發者,Onyx 不僅是替代方案,而是更優解。
行動建議:今個禮拜用 Lite mode 部署一次(curl 一條 command),接上一個 internal knowledge base,叫三五個同事用三日。對比一下 search quality 和對話質素。如果夠用,升級 full mode 做 team rollout。節省返嚟的 licence fee,投資落 GPU 或者自己 finetune 一個 domain model——呢個先係開源 AI 嘅真正價值。