Bootstrap

Spring AI(一)简单构建与大模型对话

[!NOTE]

博主前言:最近大模型挺火的,我看 Spring AI 相关应用貌似还没有足够多的教程,特此写一些个人经验供参考。

一、前期准备

要开发 Spring AI 相关应用,首先要准备两件事:

  1. 搭建一个基础 Springboot 应用框架
  2. 准备一个有充值余额的大模型api-key,或者,本地部署大模型(如最近很火的ollama+deepseek

[!WARNING]

悲报!DeepSeek 暂时关闭了充值服务(2025.2.20),虽然api-key还能申请,但是没有余额就用不了(有余额依旧能用,且用且珍惜),这里有几个替代方案供参考(非广,我一分钱没捞着):

  1. siliconflow:模型api中转商,有满血 DeepSeek R1、V3 及其他蒸馏模型,以及其它品牌的模型,注册既有赠送余额足够学习使用,支持文本、图像、语音、视频,但是没有对应的 Spring AI 相关依赖,需要用 OpenAI 接口。
  2. moonshot:国产自研模型,备选方案,有对应的 Spring AI 相关依赖,同样注册既有赠送余额足够学习使用,但是只有文本生成,且价格相比 DeepSeek 较贵(老一辈模型通病,备选学习使用方案,可以不考虑价格,但是不建议作为上线服务使用),能力也不如其他模型。
  3. 本地部署:推荐ollama+deepseek方案,部署教程 b 站到处都是,ollama也有对应的 Spring AI 相关依赖,算力上大多数电脑都可以尝试,只是仅学习使用,即使模型经过蒸馏,本地跑还是太慢了,完全达不到生产力需求。

二、要引入的依赖

引入依赖之前,先确认一下 Spring AI 是否预支持一些大模型或框架的调用,这样就不必都用 OpenAI 接口,能对使用的模型有更好的支持。

[!IMPORTANT]

访问仓库网站,并搜索:spring-ai-【你的模型或框架,如ollama


更多内容请访问:个人博客传送门

;