使用 RAG
答案依赖不断变化的私有或公开来源,而且用户需要引用、权限、新鲜度和覆盖证据时使用检索。
三者解决不同限制。RAG 提供最新且可追溯的上下文;微调改变可重复的模型行为;工具和流程执行有限操作;Agent 则在明确权限下协调多个工具和决策。
作者 Onyx Devs Lab · 发布 · 更新
从所需输出和失败后果开始,而不是从架构名称开始。
答案依赖不断变化的私有或公开来源,而且用户需要引用、权限、新鲜度和覆盖证据时使用检索。
当代表性例子可以改善稳定语气、分类、抽取或任务行为,而只靠提示词不能可靠达标时再考虑。
已知顺序使用确定性流程;只有跨工具的有限运行时决策有价值并且可评估、可控制时才使用 Agent。
每种方法都有独立证据和运营要求。
测量导入覆盖、检索召回、排序、引用正确性、答案依据、权限过滤和过期来源行为。
训练数据更难更新和引用;保留评估集、数据来源、版本、隐私复核和回退。
定义工具、身份、权限层级、确认、预算、幂等、审计字段、恢复和人工接管。
说明决策、输出、事实来源、新鲜度、引用需要、可接受错误,以及是否会执行动作。
先建立纯提示词基线,再增加检索、微调、编排或自主决策。
为知识加入 RAG、为行为加入微调或为动作加入工具,再用同一评估集比较。
为每个组件建立版本,监控失败和成本,保留追溯,并提供明确回退和人工路径。
可以。系统可以检索证据、用微调模型完成狭窄行为,再由 Agent 协调工具;每个组件仍然需要独立理由和评估。
不可以。它可以改善相关证据获取,但检索、引用、解读和答案生成每一层都可能失败。
当顺序和规则已知,确定性流程通常更容易测试、控制和恢复。
只有完成隐私、权利、保留、安全、供应商和删除复核后才应该考虑;经常变化的数据通常更适合可控检索。