Bootstrap

deepSeek +本地知识库的部署

基于Cherry Studio搭建(首选)

基于本地的deepseek搭建个人知识库。 使用本地服务,安装嵌入模型,用于将文本数据转换为向量标识的模型。

#命令行窗口执行拉取下即可。
ollama pull bge-m3
pulling manifest
pulling daec91ffb5dd... 100% ▕████████████████████████████████████████████████████████▏ 1.2 GB
pulling a406579cd136... 100% ▕████████████████████████████████████████████████████████▏ 1.1 KB
pulling 0c4c9c2a325f... 100% ▕████████████████████████████████████████████████████████▏  337 B
verifying sha256 digest
writing manifest
success

下载cherry studio

根据自己的环境下载cherry studio

https://cherry-ai.com/download

安装的时候,注意安装到其他磁盘,不要在c盘安装。

本地模型知识库

配置本地ollama

操作步骤:

  1. 找到左下角设置图标

  2. 选择模型服务

  3. 选择ollama

  4. 点击管理

  5. 点击模型后面的加号(会自动查找到本地安装的模型)

  6. 减号表示已经选择了

知识库配置

  1. 选择知识库

  2. 选择添加

  3. 选择嵌入模型

  4. 填写知识库名称

添加知识文档

cherry可以添加文档,也可以添加目录(这个极其方便),添加完以后出现绿色的对号,表示向量化完成。

搜索验证

  1. 点击搜索知识库

  2. 输入搜索顺序

  3. 点击搜索 大家可以看下我搜索的内容和并没有完全匹配,不过已经和意境关联上了。

大模型处理

  • 点击左上角的聊天图标

  • 点击助手

  • 点击默认助手(你也可以添加助手)

  • 选择大模型

  • 选择本地deepseek,也可以选择自己已经开通的在线服务

  • 设置知识库(不设置不会参考)

  • 输入提问内容

  • 发问

大家可以看到deepseek已经把结果整理了,并告诉了我们参考了哪些资料。

满血版

差别就是大模型的选择,在模型服务里配置下在线的deepseek服务即可。

如果你的知识库有隐私数据,不要联网!不要联网!不要联网!

;