目录

本地搭建Ollama参考博客https://blog.csdn.net/qq_53946134/article/details/145530603?spm=1001.2014.3001.5501

本文主要讲一下 AnythingLLM的搭建

AnythingLLM的安装

简单的本地训练模型

Angthing LLM如何结合代码使用

结尾

本地搭建Ollama参考博客本地如何搭建DeepSeek-CSDN博客

本文主要讲一下 AnythingLLM的搭建

AnythingLLM的安装

AnythingLLM官网：https://anythingllm.com，点击Download for desktop按钮，根据自己的系统选择安装包下载，下载好后正常双击安装就好。如图根据需求自行下载

安装完成后就可以训练自己的ai了

选取Ollama中已经下载完成的deepseek

简单的本地训练模型

 我们可以选择上传一些文件进行训练自己的AI

简单的训练文件

之后你就可以测试一下你自己的训练的ai了

如图向量数量越大说明训练的内容越多

Angthing LLM如何结合代码使用

例python

python代码例子：

# main.py
import requests
import json
if __name__ == '__main__':
  while True:
    print('Send message >>>')
    message = input()
    json_data = {
      'message': message,
      'mode':'chat',
    }
    headers = {
      'Content-Type':'application/json',
      'Authorization': 'Bearer 生成APIkey',
      'accept':'application/json'
    }
    response = requests.post('http://localhost:3001/api/v1/workspace/{工作区}/chat', headers=headers ,json=json_data)
    print(response)
    answer_dict = json.loads(response.content)
    answer = answer_dict['textResponse'].__str__()
    final_answer = answer[answer.index('</think>')+len('</think>')+1:]
    # 打印的结果
    print(final_answer)

然后在终端（cmd）中运main.py文件，就可以直接调用自己的成果了

在密钥生成时anything有自己的api文档需要可以自己查看

结尾

本文只是基本实现了Ollama+AnythingLLM+Python的deepseek本地部署和简单的训练。后续还需要大家共同努力。