你講句「謝謝」AI 用咗幾多電?
問你一個問題:你頭先同 Claude 或者 ChatGPT 講咗句「唔該」,背後嘅數據中心為咗處理你嗰幾個 token,用咗幾多電?答案可能嚇你一跳——一次典型嘅 AI 對話查詢,耗電量大約係 Google Search 嘅十倍。你以為自己只係打咗幾隻字,但實際上,你嘅碳足跡已經踩穿咗地板。
呢個唔係反科技嘅陰謀論,而係一個愈來愈難逃避嘅現實。2024 年,國際能源署嘅報告指出,全球數據中心嘅用電量已經佔咗全球總發電量嘅 1.5%,而 AI 運算係增長最快嘅部分。有研究推算,一次完整嘅 AI 模型訓練(例如 GPT-4 級別),碳排放相當於五架汽車成個生命周期嘅總和。你每次叫 AI 幫你改 email、寫 code、生成圖片,背後都係一座微型發電廠喺度燃燒緊。
我哋用緊嘅唔係免費午餐
講到尾,AI 唔係魔法。每一個 transformer layer、每一次 matrix multiplication,都係由實體硬件運算出來嘅。NVIDIA H100 GPU 嘅熱設計功耗係 700 瓦——即係開住一個電暖爐喺度跑。而一個中型 AI 集群有成幾千張呢啲卡,一日廿四小時全年無休咁行。香港嘅數據中心用電量喺過去三年升咗差唔多四成,大部分增長來自 GPU 集群。
你可能會話:「關我咩事?電費又唔係我畀。」問題係,呢啲電費最終會轉嫁返俾用家。OpenAI 每日嘅營運成本超過七十萬美金,電費佔咗相當大比例。隨住 AI 愈來愈普及,呢筆成本只會繼續上升。最後埋單嘅,唔只係你嘅荷包,仲有地球嘅氣候。
更加值得諗嘅係:我哋係咪真係需要每一次都 call 一個 1.8 兆參數嘅模型?你有冇試過為咗一個簡單嘅問題——例如「今日天氣點樣」——結果背後嘅大模型神經元全部 wake up,運算咗幾秒,然後答你「今日天晴,25 度」。呢個本身就係一種奢侈。用電鑽嚟打麻雀,唔單止浪費,仲好嘈。
綠色計算唔係 oxymoron
有人話 AI 同環保本身係矛盾——你要聰明就要用電,你要環保就要慳電。但我認為呢個係一個 false dichotomy。綠色計算(Green Computing)唔係叫你唔好用 AI,而係叫你用得聰明、用得有效率。
有幾個趨勢值得留意。第一,專用模型取代通用模型。小模型(如 Phi-3、Llama 3.1 8B)喺特定任務上嘅表現已經追近大模型,但能耗少咗十倍。第二,hardware-software co-design 開始成熟,Apple 嘅神經引擎、Qualcomm 嘅 AI Engine,都係用更低功耗做本地推理。第三,sparsity 同 quantization 技術令到模型可以用更少嘅 bit 數做到同樣嘅效果——好似你聽 FLAC 同 MP3 嘅分別,大部分人根本分唔出。
香港作為亞洲數據中心嘅樞紐,其實有好大嘅綠色計算潛力。我哋嘅數據中心有相對先進嘅冷卻技術,部分新設施甚至用緊液態冷卻取代傳統 HVAC,慳電之餘仲減少用水。問題係,呢啲技術嘅普及率仲未夠高。如果你係創業者,選擇雲端服務供應商嘅時候,睇吓佢哋有冇 commitment 俾 renewable energy,有冇提供 carbon-aware 嘅 compute scheduling。
作為 developer 你可以做嘅三件事
第一,選對工具。唔好乜都用最大 model,睇吓你嘅 use case 係咪可以用更細嘅模型解決。寫 unit test 使唔使用 GPT-4?Llama 3 70B 搞唔搞得掂?Google Gemini Nano 已經可以喺手機 local run,雖則能力有限,但勝在零 latency 零電費。
第二,實現 caching 同 batch processing。你每日有幾多 queries 係重複嘅?如果你嘅 product 入面每次都要 call API 做同樣嘅 embedding 或者 summarization,唔該加個 cache。喺 Redis 攞一個 cached result,比 call 一次 GPT-4 Turbo 慳咗差唔多 99.9% 嘅能耗。
第三,push 你哋公司嘅 infra team 去睇 carbon-aware computing。AWS 同 GCP 都有工具俾你睇到唔同時段、唔同 region 嘅 carbon intensity。將 batch jobs schedule 去太陽能或風能供應充足嘅時段,唔單止環保,有時仲平啲。
我哋要嘅係 conscious intelligence
AI 嘅發展唔應該以犧牲地球為代價。作為香港嘅科技從業者,我哋有責任諗清楚:每次我哋 call API 嘅時候,背後嘅代價係咩。我唔係叫你唔好用 AI——AI 係人類史上最 powerful 嘅工具之一,但 powerful 嘅工具需要 responsible 嘅使用者。
下次你同 AI 講「唔該」之前,諗一諗:呢句「唔該」值得用幾多度電?如果你嘅答案係「值得」,咁就繼續用,但要用得 smart。如果你嘅答案係「唔值得」,咁就停一停,諗清楚先用。
Green computing 唔係一個口號,而係一個 engineering challenge。而香港嘅開發者,最擅長嘅就係 solve engineering challenges。