使用 RAG
答案依賴持續變動的私有或公開來源,而且使用者需要引用、權限、新鮮度及覆蓋證據時使用檢索。
三者處理不同限制。RAG 提供最新且可追溯的上下文;微調改變可重複的模型行為;工具及流程執行有限操作;Agent 則在明確權限下協調多個工具及決定。
作者 Onyx Devs Lab · 發布 · 更新
由所需輸出及失敗後果開始,而不是由架構名稱開始。
答案依賴持續變動的私有或公開來源,而且使用者需要引用、權限、新鮮度及覆蓋證據時使用檢索。
當代表性例子可改善穩定語氣、分類、抽取或任務行為,而單靠提示詞不能可靠達標時才考慮。
已知次序使用確定性流程;只有跨工具的有限運行時決定具有價值且可評估、可控制時才使用 Agent。
每種方法都有獨立證據與營運要求。
量度導入覆蓋、檢索召回、排序、引用正確度、答案依據、權限過濾及過期來源行為。
訓練資料更難更新及引用;保留評估集、數據來源、版本、私隱覆核及回退。
定義工具、身份、權限層級、確認、預算、冪等、審計欄位、恢復及人工接管。
說明決策、輸出、事實來源、新鮮度、引用需要、可接受錯誤,以及是否會執行動作。
先建立純提示詞基線,再增加檢索、微調、編排或自主決定。
為知識加入 RAG、為行為加入微調或為動作加入工具,再用同一評估集比較。
為每個組件建立版本,監測失敗與成本,保留追溯,並提供明確回退及人工路徑。
可以。系統可檢索證據、用微調模型完成狹窄行為,再由 Agent 協調工具;每個組件仍需獨立理由及評估。
不可。它可改善相關證據取得,但檢索、引用、解讀及答案生成每一層都可能失敗。
當次序及規則已知,確定性流程通常更容易測試、控制及恢復。
只有完成私隱、權利、保留、安全、供應商及刪除覆核後才應考慮;經常變動的資料通常更適合可控檢索。