Bootstrap

运行fastGPT 第三步 打开github获取fastGPT最新版

打开github获取 fastGPT 官方安装包。

GitHub - labring/FastGPT

V4.8.18-fix  目前是最新版本。 

简单看下,fastGPT的框架,它依赖两个库,还有一个叫one api的来管理与大模型的接口。 因为各家大模型的接口太杂乱,所以one api相当于一个统一的接口。,将他们统一成1种标准,方便对接给FastGPT调用。  同时,它提供了费用管理,和一些流量,用户控制的功能。

https://doc.tryfastgpt.ai/docs/development/docker/

所以,我们用Docker Compose安装,相当于把这些数据库, one api,这些统统打包一起安装了。

Docker Compose 快速部署

部署的话,只要拿到compose文件即可,compose文件就是一个自动化脚本安装文件,里面有所有的配置信息,依赖,和一些docker的配置。都写在这个文件里了。

只需要用宝塔面板里面的 docker  compose管理器,运行这个文件。就ok 了

系统会自动安装如下内容

  • MongoDB:用于存储除了向量外的各类数据

  • PostgreSQL/Milvus:存储向量数据

  • OneAPI: 聚合各类 AI API,支持多模型调用 (任何模型问题,先自行通过 OneAPI 测试校验)

下面代码,一行一行于运行, 系统会得到两个文件。 

config.json
docker-compose.yml (注意,不同向量库版本的文件不一样)

    mkdir fastgpt
    cd fastgpt
    curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json
    
    # pgvector 版本(测试推荐,简单快捷)
    curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-pgvector.yml
    # milvus 版本
    # curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-milvus.yml
    # zilliz 版本
    # curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-zilliz.yml

    这里,PostgreSQL有多个版本,  pgvector 的占用资源最低,适合低配服务器(个人或者测试使用),Milvus版本对于千万级以上向量性能更优秀(生产服务器可以部署这个,性能更强)。zilliz cloud版本,基于Milvus 的全托管服务,性能优于 Milvus 并提供 SLA。

    对于个人用fastGPT,这种简单调用,没有并发的,小量的客服应用。  pgvector版本就够用了。

    下载好啦,fastgpt文件夹里有了两个关键文件。

    修改docker-compose.yml 文件, 修改里面的

    - FE_DOMAIN=  这行代码。把你自己的ip地址,替换上。 这个就是fastGPT前端页面的地址了。

     image: ghcr.io/labring/fastgpt-sandbox:V4.8.18-fix

    V4.8.18-fix 这里的版本,也改成最新的。 这样拉取镜像是最新的。

    pg容器的端口映射也要改下,5432:5432

     # 前端访问地址: http://localhost:3000
     - FE_DOMAIN= http://xxx.xxx.xxxx.xxx:3000
      container_name: sandbox
        image: ghcr.io/labring/fastgpt-sandbox:V4.8.18-fix # git
        # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-sandbox:v4.8.17 # 阿里云
        networks:
          - fastgpt
        restart: always
      fastgpt:
        container_name: fastgpt
        image: ghcr.io/labring/fastgpt:V4.8.18-fix # git
        # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:v4.8.17 # 阿里云
        container_name: pg
        restart: always
        ports: # 生产环境建议不要暴露
          - 5432:5432
        networks:

    删除这行版本信息,新版compose已经不需要这个显式的声明版本,而是接用最新版代替,所以请删除version标签

    运行以下命令, 赋予docker权限,并且执行docker-compose up -d 安装

    lighthouse@VM-0-4-ubuntu:~$ cd fastgpt/
    lighthouse@VM-0-4-ubuntu:~/fastgpt$ sudo usermod -aG docker $USER
    lighthouse@VM-0-4-ubuntu:~/fastgpt$ newgrp docker
    lighthouse@VM-0-4-ubuntu:~/fastgpt$ docker ps
    lighthouse@VM-0-4-ubuntu:~/fastgpt$ sudo docker-compose up -d
    

    等着安装完了,回到宝塔面板中, 看到,所有需要容器都安装完毕了。 真强大阿。 一个docker-compose文件,就配置了所有依赖。而且FastGPT也拉取了V4.8.18-fix最新版本! 

    下一篇文章将进一步讲解如何配置fastGPT和oneAPI,以及存储卷文件的映射。

    ;