微调与RAG

微调与RAG

检索增强生成

RAG是数据检索与文本生成的结合。企业的结构化数据和非结构化数据存储在向量数据库中。在搜索相关内容时，会找到相关的摘要和内容组成上下文，并结合LLM/SLM的文本补全能力生成内容。

RAG流程

微调

微调是在已有模型基础上的改进，不需要从模型算法开始，但需要不断积累数据。如果你希望在行业应用中获得更精准的术语和语言表达，微调是更好的选择。但如果数据频繁变化，微调会变得复杂。

如何选择

如果我们的答案需要引入外部数据，RAG是最佳选择。

如果需要输出稳定且精准的行业知识，微调会是不错的选择。RAG优先拉取相关内容，但可能无法完全把握专业细节。

微调需要高质量的数据集，如果数据量较小，效果不会明显。RAG则更灵活。
微调是一个黑箱，带有一定的神秘色彩，内部机制难以理解。但RAG更容易追溯数据来源，从而有效调整幻觉或内容错误，提供更好的透明度。

免责声明：
本文件使用 AI 翻译服务 Co-op Translator 进行翻译。虽然我们力求准确，但请注意，自动翻译可能包含错误或不准确之处。原始文件的母语版本应被视为权威来源。对于重要信息，建议采用专业人工翻译。我们不对因使用本翻译而产生的任何误解或误释承担责任。