从青铜到王者，DeepSeek+Spring AI 搭建 RAG 知识库

一、RAG 知识库：解锁精准问答的新姿势

在人工智能飞速发展的当下，大语言模型（LLMs）已广泛应用于各种自然语言处理任务。但它们也存在一些局限性，如 “幻觉” 问题，即生成的内容可能与事实不符或缺乏足够的准确性。为了解决这些问题，检索增强生成（Retrieval-Augmented Generation，RAG）技术应运而生。

RAG 技术的核心在于将检索与生成相结合。传统的生成模型依赖大量的训练数据来生成回答，当面对新问题或新兴领域知识时，可能会产生不准确或不合逻辑的回答。而 RAG 引入了检索机制，在接收到用户问题后，首先从外部知识库或文档集合中检索相关信息，然后将这些信息与原始问题一起输入到生成模型中，从而生成更准确、上下文相关的答案。

RAG 技术具有诸多优势：

知识覆盖面广

可以访问私有领域知识库，在处理专业领域问题时，依然能生成准确答案。
准确性和上下文相关性强

借助检索到的相关信息，确保生成的文本与问题或上下文高度相关，生成内容更可靠。
灵活性和扩展性高

能灵活应用于不同领域和任务，只需更换或扩展检索库，便能适应新的应用场景。

在实际应用中，RAG 技术在智能客服、内容生成、辅助决策等领域发挥着重要作用。在智能客服中，它可以根据用户问题快速检索知识库，提供准确的解答，提升客户满意度；在内容生成领域，如新闻写作、技术文档编写等，结合检索到的最新信息，生成更具时效性和针对性的内容；在法律、金融等需要处理大量文档和信息的行业，帮助用户快速找到相关案例、法规或市场数据，辅助决策和研究工作。

在这里插入图片描述

而将 DeepSeek 和 SpringAI 相结合搭建 RAG 知识库，更是强强联合。DeepSeek 在自然语言处理和逻辑推理方面具有出色的能力，能够准确理解用户问题并生成高质量的回答；SpringAI 则提供了强大的框架和工具，方便进行模型集成、数据处理和应用开发，为搭建高效、稳定的 RAG 知识库提供了有力支持。

二、技术基石：DeepSeek 与 SpringAI

（一）DeepSeek：大模型的璀璨之星

DeepSeek 是由量化巨头幻方量化旗下公司深度求索发布的大模型，在自然语言处理领域展现出卓越的性能，凭借其强大的推理能力和较低的资源消耗，得到了全球范围的关注和好评。

在模型架构上，DeepSeek 采用了先进的技术，如 Transformer 架构的优化变体，能够更高效地处理长序列数据，捕捉文本中的语义依赖关系。以 DeepSeek-R1 为例，它在数学、代码、自然语言推理等任务上的性能能够比肩 OpenAI o1 模型正式版，在国外大模型排名榜 Chatbot Arena 上，DeepSeek-R1 的基准测试排名已经升至全类别大模型第三，与 OpenAI 的 ChatGPT-4o 最新版并列，并在风格控制类模型 (StyleCtrl) 分类中与 OpenAI 的 o1 模型并列第一。

从训练数据来看，DeepSeek 使用了海量的多领域数据进行训练，涵盖了新闻、论文、小说、代码库等。这些丰富的数据来源使得模型具备广泛的知识储备，能够理解和生成多种风格和领域的文本。无论是日常对话、专业学术问题，还是创意写作任务，DeepSeek 都能应对自如。在回答科学研究相关问题时，它可以准确引用相关的学术文献和研究成果；在进行创意写作时，能够根据给定的主题和风格要求，生成富有想象力和逻辑性的文本。

在推理能力方面，DeepSeek 表现出色。它能够对复杂的问题进行深入分析，通过逻辑推理得出准确的答案。当面对需要多步推理的数学问题或逻辑谜题时，DeepSeek 能够逐步拆解问题，展示出清晰的推理过程，最终给出正确的解答。在处理代码生成任务时，它可以根据功能描述生成高质量、可运行的代码，并且能够理解代码中的上下文关系，进行代码补全和错误修复。

（二）SpringAI：Java 开发者的 AI 利器

SpringAI 是一个由 Spring 官方社区推出的项目，旨在简化 Java AI 应用程序的开发，将 Spring 生态系统的设计原则（如可移植性和模块化设计）应用于 AI 领域，并推广使用 POJO（Plain Old Java Object，即简单的 Java 对象）作为 AI 领域应用程序的构建块。

SpringAI 的设计理念是让 Java 开发者能够利用熟悉的 Spring 框架和开发方式，快速构建 AI 应用。它提供了一系列丰富的功能和特性，使得 AI 应用开发更加高效和便捷。在模型支持方面，SpringAI 对接了多种主流 AI 大模型供应商，包括 OpenAI、Microsoft、Amazon、Google HuggingFace、Ollama、MistralAI 等，这使得开发者可以根据项目需求选择最合适的模型，而无需担心底层集成的复杂性。无论是使用 OpenAI 的强大语言模型进行文本生成，还是利用 HuggingFace 的预训练模型进行特定任务的微调，SpringAI 都能提供统一的接口和便捷的操作方式。

在向量数据库支持方面，SpringAI 涵盖了 Azure Vector Search、Chroma、Milvus、Neo4j、PostgreSQL/PGVector、PineCone、Redis 等主流数据库。向量数据库在 RAG 技术中起着关键作用，用于存储和检索文本的向量表示。SpringAI 与这些向量数据库的集成，使得开发者能够方便地进行文本的向量化存储和高效检索，为 RAG 知识库的构建提供了有力支持。通过简单的配置和 API 调用，开发者可以将文本数据转换为向量形式，并存储到向量数据库中，在需要时快速检索出与查询相关的文本向量。

此外，SpringAI 还支持将 AI 模型输出映射到简单的 Java 对象（POJOs）上，这大大简化了数据处理流程。开发者可以直接使用 Java 对象来接收和处理模型的输出，利用 Java 强大的面向对象编程特性进行后续的业务逻辑处理。SpringAI 还提供了函数调用（Function calling）功能，允许 AI 在处理任务时调用外部定义的功能，扩展了 AI 的能力范围。在处理需要调用特定业务逻辑或外部服务的任务时，AI 可以通过 SpringAI 的函数调用机制，调用预先定义好的 Java 方法或服务，实现更复杂的功能。

三、搭建准备：万事俱备，只欠东风

我们以ollama搭乘deepseek-7b作为大模型基座

在这里插入图片描述

配置ollama的deepseek模型与embedding

在这里插入图片描述

配置chromadb的向量数据库

在这里插入图片描述

spring配置

在这里插入图片描述

添加文档分割的依赖
在这里插入图片描述

四、环境准备好，上代码

将我们准备好的llama2的pdf切割后灌库到

@Slf4j
@RestController
@RequestMapping("rag")
@AllArgsConstructor
public class RagDemoController {
  private final VectorStore vectorStore;  
  
  public void addVectorStore() {   
      File documentation = new File("D:\\iron.guo\\llama2.pdf");      
      TikaDocumentReader tikaDocumentReader = new TikaDocumentReader(new  FileSystemResource(documentation));      
      TokenTextSplitter splitter = new TokenTextSplitter(300, 200, 10, 400, true);      
      List<Document> documents = splitter.apply(tikaDocumentReader.get());      
      documents.forEach(document -> {     
         vectorStore.add(List.of(         
         new Document(document.getFormattedContent())    
    ));
});
}
}

至此我们的文档内容就已经存在向量数据库了

开始调大模型！！！

核心思想是，我们通过用户的提问从向量数据库中查询相似的，再将查询出来的内容与问题一起给到大模型，来检索增强生成

@GetMapping("/chat")
public ResponseResult<Object> chat(@RequestParam String question) {
          List<Document> documents = vectorStore.similaritySearch( SearchRequest.builder()   
                  .query(question)                  
                  .topK(1)                  
                  .build());          
          String prompt = """            
                     你是一个智能助手，你可以根据下面搜索到的内容回复用户                     
                     ### 用户的问题是                     
                     %s                     
                     ###具体内容                     
                     %s                   
                      """;          
          prompt= String.format(prompt,question, documents.get(0).getText());          
          //System.out.println(prompt);          
          Prompt prompt1 = new Prompt(prompt);          
          ChatResponse call = chatModel.call(prompt1);          
          String result = call.getResult().getOutput().getText();          
          System.out.println(result);          
          return ResponseResult.success(result);
}

请求一个接口我们看看效果

localhost:9800/rag/chat?question=llama2的参数有多少

就这样一个简单的RAG代码就写完了，让我们看看效果

OK！一个简单的RAG就这样实现咯！

DeepSeek无疑是2025开年AI圈的一匹黑马，在一众AI大模型中，DeepSeek以低价高性能的优势脱颖而出。DeepSeek的上线实现了AI界的又一大突破，各大科技巨头都火速出手，争先抢占DeepSeek大模型的流量风口。

DeepSeek的爆火，远不止于此。它是一场属于每个人的科技革命，一次打破界限的机会，一次让普通人也能逆袭契机。

DeepSeek的优点

read-normal-img

掌握DeepSeek对于转行大模型领域的人来说是一个很大的优势，目前懂得大模型技术方面的人才很稀缺，而DeepSeek就是一个突破口。现在越来越多的人才都想往大模型方向转行，对于想要转行创业，提升自我的人来说是一个不可多得的机会。

那么应该如何学习大模型

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

想正式转到一些新兴的 AI 行业，不仅需要系统的学习AI大模型。同时也要跟已有的技能结合，辅助编程提效，或上手实操应用，增加自己的职场竞争力。

大模型岗位需求越来越大，但是相关岗位人才难求，薪资持续走高，AI运营薪资平均值约18457元，AI工程师薪资平均值约37336元，大模型算法薪资平均值约39607元。

read-normal-img

掌握大模型技术你还能拥有更多可能性：

• 成为一名全栈大模型工程师，包括Prompt，LangChain，LoRA等技术开发、运营、产品等方向全栈工程；

• 能够拥有模型二次训练和微调能力，带领大家完成智能对话、文生图等热门应用；

• 薪资上浮10%-20%，覆盖更多高薪岗位，这是一个高需求、高待遇的热门方向和领域；

• 更优质的项目可以为未来创新创业提供基石。

可能大家都想学习AI大模型技术，也想通过这项技能真正达到升职加薪，就业或是副业的目的，但是不知道该如何开始学习，因为网上的资料太多太杂乱了，如果不能系统的学习就相当于是白学。为了让大家少走弯路，少碰壁，这里我直接把都打包整理好，希望能够真正帮助到大家。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

read-normal-img

第一阶段：从大模型系统设计入手，讲解大模型的主要方法；

第二阶段：在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段：大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；
第四阶段：大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；
第五阶段：大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
第六阶段：以SD多模态大模型为主，搭建了文生图小程序案例；
第七阶段：以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈
光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

read-normal-img

👉大模型视频和PDF合集👈
观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

read-normal-img

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能，学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

read-normal-img

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】 在这里插入图片描述