[!NOTE]
博主前言:最近大模型挺火的,我看 Spring AI 相关应用貌似还没有足够多的教程,特此写一些个人经验供参考。
一、前期准备
要开发 Spring AI 相关应用,首先要准备两件事:
- 搭建一个基础 Springboot 应用框架
- 准备一个有充值余额的大模型
api-key
,或者,本地部署大模型(如最近很火的ollama
+deepseek
)
[!WARNING]
悲报!DeepSeek 暂时关闭了充值服务(2025.2.20),虽然
api-key
还能申请,但是没有余额就用不了(有余额依旧能用,且用且珍惜),这里有几个替代方案供参考(非广,我一分钱没捞着):
- siliconflow:模型
api
中转商,有满血 DeepSeek R1、V3 及其他蒸馏模型,以及其它品牌的模型,注册既有赠送余额足够学习使用,支持文本、图像、语音、视频,但是没有对应的 Spring AI 相关依赖,需要用 OpenAI 接口。- moonshot:国产自研模型,备选方案,有对应的 Spring AI 相关依赖,同样注册既有赠送余额足够学习使用,但是只有文本生成,且价格相比 DeepSeek 较贵(老一辈模型通病,备选学习使用方案,可以不考虑价格,但是不建议作为上线服务使用),能力也不如其他模型。
- 本地部署:推荐
ollama
+deepseek
方案,部署教程 b 站到处都是,ollama
也有对应的 Spring AI 相关依赖,算力上大多数电脑都可以尝试,只是仅学习使用,即使模型经过蒸馏,本地跑还是太慢了,完全达不到生产力需求。
二、要引入的依赖
引入依赖之前,先确认一下 Spring AI 是否预支持一些大模型或框架的调用,这样就不必都用 OpenAI 接口,能对使用的模型有更好的支持。
[!IMPORTANT]
访问仓库网站,并搜索:spring-ai-【你的模型或框架,如
ollama
】
更多内容请访问:个人博客传送门