博客网站建设设计报告崇信县网站留言

什么是RAG

检索增强生成（Retrieval-Augmented Generation），主要是通过从外部给大模型补充一些知识，相当于给模型外挂了一个知识库，让模型减少幻觉，生成更加精确的答案

RAG解决的问题

1.每次有新的知识加入，都需要进行微调，成本大
2.训练模型的成本是很高的

RAG工作流程

检索（Retrieve）:把用户的问题送到知识库中进行检索相关内容，返回相似的前n个内容
增强（Augment）:用户的问题和检索的内容放在一起，构成一个prompt
生成（Generate）:将prompt送入LLM中

RAG调优策略

LangChain简介

LangChain 是一个用于开发由语言模型驱动的应用程序的框架。他主要拥有 2 个能力：
1.可以将 LLM 模型与外部数据源进行连接
2.允许与 LLM 模型进行交互

基本概念：
loader加载器：从哪里加载数据
document文档：将数据转换为Document对象
文本分割：受限于大模型token数量，将长文本分割
向量数据库：将数据向量化存入库中，便于搜索匹配
chainl链：一个chain就是一个任务，一个一个的执行多个任务
Agent代理：