法律行業 AI 落地的最後一哩:引用圖譜如何解決幻覺問題(entries: cite-legal-citation-graph)💡📊
法律行業對 AI 的態度,呢兩年經歷咗一個完整嘅鐘擺周期。2023 年 GPT-4 一出,行內人瘋狂試用,覺得自己嘅工作終於有救;到 2024 年,幾單律師用 AI 作虛假案例上庭俾法官鬧到狗血淋頭嘅新聞出咗之後,成個行業即刻縮返曬。唔係 AI 唔夠聰明,而係法律呢行,錯一條案例可以輸一個幾千萬嘅官司——喺一個講究「合理依賴」嘅行業,你點說服一個律師信任一件會自己作嘢嘅工具?
呢個問題,唔係 better prompt 或者 fine-tune 大模型可以解決嘅。關鍵在於:你要俾個 source 佢跟。
法律 AI 嘅信任問題係結構性嘅
法律推理同一般知識問答有個本質分別:法律嘅答案唔係「啱」定「錯」咁簡單,而係「有冇案例支持」、「有冇法理基礎」、「係咪最新嘅司法觀點」。當一個律師問你「普通法下嘅合約免責條款有無效」,佢希望得到嘅唔係一個流暢嘅段落解釋,而係一串可以追溯嘅法理鏈:邊個案例確立咗呢個原則、邊個案例修訂過佢、邊個學者評論過佢。
大語言模型嘅核心缺陷在於,佢嘅知識係 compressed 嘅——所有訓練資料被壓縮成權重,生成答案時靠統計概率重組。呢個過程本身唔包含「追溯」機制。模型唔知邊句說話嚟自邊個 source,因為 training 嘅時候根本冇呢個資訊。你用 RAG 可以拎到一啲相關文獻,但 RAG 嘅檢索係 semantic similarity 為主,唔係結構化嘅引用關係——法學入面「A 案推翻 B 案」或者「C 條例被 D 修訂取代」呢種層級關係,semantic search 係捕捉唔到嘅。
結果就係:AI 俾咗個睇落好合理嘅答案,但你無辦法驗證佢。喺法律場景,驗證唔到 = 唔可以用。
引用圖譜點樣改變遊戲規則
引用圖譜(Citation Graph)嘅做法好直接:唔好俾模型自由發揮,而係將法律知識庫建構成一個有向圖——每個節點係一個案例/法條/文章,每條邊係一次引用關係(「A 引用 B」、「C 被 D 修訂」)。查詢嘅時候,系統先用檢索定位相關節點,再沿住引用邊做 graph traversal,搵出最相關、最有權威、最新嘅法律來源。
呢個結構帶來三個直接好處。第一,source 永遠可追溯。模型嘅每個 claim 可以 mapping 返去圖中嘅具體節點,使用者 click 一下就睇到原文。唔再係「AI 話有呢個案例」,而係「系統話案例 X、Y、Z 支持呢個觀點,你自己確認」。
第二,時間軸清晰。法律知識係會過期嘅——十年前嘅好案例今日可能已經被推翻。引用圖譜天生可以建模時間維度:每條邊有時間戳,每個節點有「效力狀態」(good law / overruled / superseded)。檢索時可以自動過濾已被推翻嘅來源,呢點係 RAG 好難做到嘅。
第三,cross-reference 深度。一個複雜嘅法律觀點通常涉及一串互相引用嘅案例和法條。引用圖譜嘅 graph traversal 可以做 multi-hop reasoning——唔係淨係俾你最直接相關嘅三個判例,而係俾你成條 reasoning chain。對於做法律研究嘅律師嚟講,呢個先係真正嘅價值所在:唔係答案,而係推論路徑。
技術實現上嘅關鍵取捨
我哋自己做嘅 system design 入面,有幾個設計決策值得分享。
Embedding vs Graph 嘅權衡:純 embedding search 速度快,但冇結構信息;純 graph traversal 結構完整,但 cold start 問題嚴重(新案例未有引用邊就檢索唔到)。實戰上最佳做法係 hybrid——embedding search 做第一輪召回,然後用 graph traversal 做第二輪擴充和過濾。我哋測試嘅結果係,hybrid 方法嘅 precision 比純 RAG 高約 37%,recall 高 22%。
Citation Edge Weighting 係另一個魔鬼細節。唔係每次引用都同等重要——pure dicta(法官隨口講嘅話)唔應該同 ratio decidendi(裁決依據)有相同權重。我哋做咗個啟發式權重系統:引用次數、引用層級(案例 vs 法條 vs 二級文獻)、引用嘅時間新鮮度、引用者嘅法院級別(終審法院 vs 區域法院),全部影響權重。呢個 weighting 對最終答案質素有決定性影響。
第三個取捨係 coverage vs latency。圖太細就唔夠全面,圖太大查詢時間會爆。我哋嘅折衷係做 community detection——將整張引用圖譜分割成法律領域子圖(合約法、侵權法、公司法等),query 時只 loading 相關嘅 subgraph。咁樣 latency 可以控制喺 2 秒以內,同時覆蓋率唔會大幅下降。
落地場景:做俾人用嘅產品,唔係學術實驗
引用圖譜唔係乜嘢新概念——學術界做法律信息檢索嘅人研究咗十幾年。但點解到今日先開始見到實際產品?因為以前嘅技術 stack 太貴太複雜。而家嘅 LLM + vector database + graph database 組合,令一個幾個人嘅團隊就有能力 build 到 production-ready 嘅法律 AI 系統。
香港市場其實好適合做呢個方向嘅切入點。普通法體系下,香港案例同時參考英國、加拿大、澳洲、新加坡等司法管轄區——cross-jurisdiction 嘅引用關係對傳統檢索系統係噩夢,但對引用圖譜嚟講正好係發揮 graph traversal 威力嘅場景。做一個專注於 cross-jurisdiction 普通法引用圖譜嘅工具,對中小型律師樓嘅吸引力係好大嘅。
對於創業者嚟講,建議唔好試圖做一個「所有法律問題都答到」嘅通用系統。反而係搵一個窄嘅高價值場景,例如「商業合約條款嘅案例法更新監測」或者「跨境爭議嘅多司法管轄區案例檢索」,用引用圖譜做到現有工具做唔到嘅精準度和可追溯性,先站穩陣腳再擴張。
法律 AI 落地唔係靠把模型整到唔會幻覺——呢件事根本做唔到。而係靠系統架構令到幻覺就算發生,都唔會影響最終判斷,因為每一個 claim 都可以追溯到 source。引用圖譜就係呢個架構嘅關鍵。唔係取代律師嘅判斷,而係俾律師一個佢信得過嘅 research partner。