Bootstrap

GPT-SoVITS项目的API改良与使用

GPT-SoVITS是一个非常棒的少样本中文声音克隆项目，之前有一篇文章详细介绍过如何部署和训练自己的模型，并使用该模型在web界面中合成声音，可惜它自带的 api 在调用方面支持比较差，比如不能中英混合、无法按标点切分句子等，因此对原版api做了修改，详细使用说明如下。

修改后代码开源地址：github.com/jianchang51…

代码下载地址 github.com/jianchang51…

api2.py 使用示例

下载解压 github.com/jianchang51… ，将 api2.py 复制到GPT-SoVITS软件目录下，执行命令同自带api.py一样，只需要将名字 api.py 改成 api2.py。默认端口也是 9880，默认绑定 127.0.0.1

效果音频，听听这是谁

启动默认模型并指定默认参考音频 -dr -dt -dl

假设参考音频要使用根目录下的 123.wav ,音频文字是 “一二三四五六七。” ，音频语言是中文，那么命令如下：

.\runtime\python api2.py -dr "123.wav" -dt "一二三四五六七。" -dl "zh"

image.png

Linux下命令去掉 .\runtime 即可

如上述命令这样在启动后，指定的参考音频将作为默认配置，在api请求数据中未指定参考音频时，将使用。

启动默认模型并指定ip地址和端口 -a -p

假设要指定绑定内网ip 192.168.0.120 ，端口要使用 9001，不指定默认参考音频，那么执行如下命令:

.\runtime\python api2.py -a "127.0.0.1" -p 9001

image.png

启动自己训练好的模型 -s -g

在指定自己的模型时，必须确保同时指定参考音频。

训练好的模型可分别在软件目录下的 GPT_weights 和 SoVITS_weights 目录下寻找，以你训练时命名的模型名称开头，后跟e数字最大的那个即可。

.\runtime\python api2.py -s "SoVITS_weights/你的模型名" -g "GPT_weights/你的模型名" -dr "参考音频路径和名称" -dt "参考音频的文字内容，使用双引号括起来，确保文字内容里没有双引号" -dl zh|ja|en三者选一

image.png

强制在CPU上推理 -d cpu

默认将优先使用 CUDA 或 mps(Mac), 如果你想指定在CPU上运行，可以通过 -d cpu 指定

.\runtime\python api2.py -d cpu

注意 -d 后只能是 cpu 或 cuda 或 mps，并且只有在正确配置 cuda 后才能指定 cuda，只有Apple CPU Mac上才能指定 mps

全部按照默认运行

.\runtime\python api2.py

这种方式将使用默认模型，并且在 api 请求时必须指定参考音频、参考音频文字内容、参考音频语言代码，api 监听 9880 端口

可使用的语言代码 zh ja en

仅支持 中文、日语、英语 三种语言，对应只可使用 zh(代表中文或中英混合)、ja(代表日语或日英混合)、en(代表英语)，使用 -dl 指定，如 -dl zh,-dl ja,-dl en

参考音频路径 -dr

参考音频填写以软件根目录为起点的相对目录，假如你的参考音频是直接放在软件根目录下，那么只需要填写带后缀的完整名字即可，比如 -dr 123.wav,如果是在子目录下，比如在 wavs 文件夹下，那么填写 -dr "wavs/123.wav"

参考音频的文字内容 -dt

参考音频的文字内容就是音频里的说话文字，需要正确填写标点符号，并使用英文双引号括起来。请注意，文字中不要再有英文双引号。

-dt "这里填写参考音频的文字内容，不要含有英文双引号"

image.png

可用的命令行参数:

模型相关参数

-s SoVITS模型路径, 默认模型无需填写，自训练模型在 SoVITS_weights 目录下

-g GPT模型路径, 默认模型无需填写，自训练模型在 GPT_weights 目录下

参考音频相关参数

-dr 默认参考音频路径，如果在根目录下，直接填写带后缀名字，否则加上 路径/名字

-dt 默认参考音频文本，音频的文字内容，以英文双引号括起来

-dl 默认参考音频内容的语种, “zh"或"en"或"ja”

设备和地址相关参数

-d 推理设备, “cuda”,“cpu”,“mps” 只有配置好了cuda环境才可指定cuda，只有Apple CPU上才可指定mps

-a 绑定地址, 默认"127.0.0.1"

-p 绑定端口, 默认9880

不常用参数，新手可忽略不必设置

-fp 使用全精度

-hp 使用半精度

-hb cnhubert路径

-b bert路径

API调用示例:

调用地址url: http://你指定的ip:指定的端口，默认是 http://127.0.0.1:9880

调用时不指定参考音频

启动 api2.py 时必须指定默认参考音频，才可在调用api时不指定，否则将报错:

GET方式调用，可直接浏览器中打开：

http://127.0.0.1:9880?text=亲爱的朋友你好啊，希望你的每一天都充满快乐。&text_language=zh

image.png

POST方式调用，以json格式传参:

json
复制代码
{
    "text": "先帝创业未半而中道崩殂，今天下三分，益州疲弊，此诚危急存亡之秋也。",
    "text_language": "zh"
}

image.png

手动指定当次所使用的参考音频:

GET方式:

http://127.0.0.1:9880?refer_wav_path=wavs/5.wav&prompt_text=为什么御弟哥哥，甘愿守孤灯。&prompt_language=zh&text=亲爱的朋友你好啊，希望你的每一天都充满快乐。&text_language=zh

POST方式:

json
复制代码
{
    "refer_wav_path": "wavs/5.wav",
    "prompt_text": "为什么御弟哥哥，甘愿守孤灯。",
    "prompt_language": "zh",
    "text": "亲爱的朋友你好啊，希望你的每一天都充满快乐。",
    "text_language": "zh"
}

image.png

Api调用返回信息:

成功时: 返回 wav 音频流，可直接播放或保存到 wav文件中，http 状态码 200

失败时: 返回包含错误信息的 json, http 状态码 400

css
复制代码
{"code": 400, "message": "未指定参考音频且接口无预设"}

问题：想切换模型怎么办

api2.py和官方原版api.py 一样都不支持动态模型切换，也不建议这样做，因为动态启动加载模型很慢，而且在失败时也不方便处理。

解决方法是： 一个模型起一个api服务器，绑定不同的端口，在启动 api2.py 时，指定当前服务所要使用的模型和绑定的端口。

比如起2个服务，一个使用默认模型，绑定 9880 端口，一个绑定自己训练的模型，绑定 9881 端口，命令如下

默认模型 9880 端口: http://127.0.0.1:9880

.\runtime\python api2.py -dr "5.wav" -dt "今天好开心" -dl zh

自己训练的模型: http://127.0.0.1:9881

.\runtime\python api2.py -p 9881 -s "SoVITS_weights/mymode-e200.pth" -g "GPT_weights/mymode-e200.ckpt" -dr "wavs/10.wav" -dt "御弟哥哥，为什么甘愿守孤灯" -dl zh

image.png

在视频翻译软件中使用

如下图所示，打开 菜单-设置-GPT-SoVITS ，填写api地址，以及参考音频， 填写格式为一行一个参考音频

bash
复制代码

参考音频路径带后缀名称1#参考音频1文字内容#参考音频1语言
参考音频路径带后缀名称2#参考音频2文字内容#参考音频2语言

详细说明可看上一篇文章 在其他软件中调用GPT-SoVITS将文字合成语音

image.png

小技巧

中英混合的句子如何取得更好的训练效果：

英文单词前后要留有空格，不要直接和汉字连在一起，因为英文是靠空格区分的，如果连在一起，可能无法正确识别。

此api2.py 兼容视频翻译配音软件的 GPT-SoVITS 声音合成功能

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

😝有需要的小伙伴，可以点击下方链接免费领取或者V扫描下方二维码免费领取🆓

在这里插入图片描述

在这里插入图片描述

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么？
  • 大模型是怎样获得「智能」的？
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例：向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示（Embeddings）
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2：手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身：基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例：如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取==🆓

在这里插入图片描述

悦读

道可道，非常道；名可名，非常名。 无名，天地之始，有名，万物之母。 故常无欲，以观其妙，常有欲，以观其徼。 此两者，同出而异名，同谓之玄，玄之又玄，众妙之门。

最新收录
Lua 类管理器
C++实现一个时间驱动框架
Android Framework基础之C语言入门
【网络云计算】2024第45周周考-分组技能大赛-LVM结合RAID解题思路【RAID结合LVM】
自动驾驶Motion Plan基于采样的路径规划算法
基于nodejs+vue数据分析及推荐机制的篮球周边电商平台[程序+论文+开题]-计算机毕业设计
C语言操作符详解
掌握Android和Java线程原理
CVPR2017论文摘要汇总
关于营销系统的一些实战心得
;