两分钟克隆你的声音,支持替换电影和视频里面的声音,免费使用支持docker一键部署,集成工具包括声音伴奏分离、自动训练集分割、中文自动语音识别(ASR)和文本标注。
查看我们的介绍视频 demo video
中国地区用户可使用 AutoDL 云端镜像进行体验:https://www.codewithgpu.com/i/RVC-Boss/GPT-SoVITS/GPT-SoVITS-Official
功能:
-
零样本文本到语音(TTS): 输入 5 秒的声音样本,即刻体验文本到语音转换。
-
少样本 TTS: 仅需 1 分钟的训练数据即可微调模型,提升声音相似度和真实感。
-
跨语言支持: 支持与训练数据集不同语言的推理,目前支持英语、日语和中文。
-
WebUI 工具: 集成工具包括声音伴奏分离、自动训练集分割、中文自动语音识别(ASR)和文本标注,协助初学者创建训练数据集和 GPT/SoVITS 模型。
环境准备
如果你是 Windows 用户(已在 win>=10 上测试),可以直接通过预打包文件安装。只需下载预打包文件,解压后双击 go-webui.bat 即可启动 GPT-SoVITS-WebUI。
测试通过的 Python 和 PyTorch 版本
- Python 3.9、PyTorch 2.0.1 和 CUDA 11
- Python 3.10.13, PyTorch 2.1.2 和 CUDA 12.3
- Python 3.9、Pytorch 2.3.0.dev20240122 和 macOS 14.3(Apple 芯片,GPU)
注意: numba==0.56.4 需要 python<3.11
Mac 用户
如果你是 Mac 用户,请先确保满足以下条件以使用 GPU 进行训练和推理:
- 搭载 Apple 芯片或 AMD GPU 的 Mac
- macOS 12.3 或更高版本
- 已通过运行
xcode-select --install
安装 Xcode command-line tools
其他 Mac 仅支持使用 CPU 进行推理
然后使用以下命令安装:
创建环境
conda create -n GPTSoVits python=3.9
conda activate GPTSoVits
安装依赖
pip install -r requirements.txt
pip uninstall torch torchaudio
pip3 install --pre torch torchaudio --index-url https://download.pytorch.org/whl/nightly/cpu
使用 Conda 快速安装
conda create -n GPTSoVits python=3.9
conda activate GPTSoVits
bash install.sh
手动安装包
Pip 包
pip install -r requirements.txt
FFmpeg
Conda 使用者
conda install ffmpeg
Ubuntu/Debian 使用者
sudo apt install ffmpeg
sudo apt install libsox-dev
conda install -c conda-forge 'ffmpeg<7'
MacOS 使用者
brew install ffmpeg
Windows 使用者
下载并将 ffmpeg.exe 和 ffprobe.exe 放置在 GPT-SoVITS 根目录下。
在 Docker 中使用
docker-compose.yaml 设置
- image 的标签:由于代码库更新很快,镜像的打包和测试又很慢,所以请自行在 Docker Hub 查看当前打包好的最新的镜像并根据自己的情况选用,或者在本地根据您自己的需求通过 Dockerfile 进行构建。
- 环境变量:
- is_half: 半精度/双精度控制。在进行 “SSL extracting” 步骤时如果无法正确生成 4-cnhubert/5-wav32k 目录下的内容时,一般都是它引起的,可以根据实际情况来调整为 True 或者 False。
- Volume 设置,容器内的应用根目录设置为 /workspace。 默认的 docker-compose.yaml 中列出了一些实际的例子,便于上传/下载内容。
- shm_size:Windows 下的 Docker Desktop 默认可用内存过小,会导致运行异常,根据自己情况酌情设置。
- deploy 小节下的 gpu 相关内容,请根据您的系统和实际情况酌情设置。
通过 docker compose 运行
docker compose -f "docker-compose.yaml" up -d
通过 docker 命令运行
同上,根据您自己的实际情况修改对应的参数,然后运行如下命令:
docker run --rm -it --gpus=all --env=is_half=False --volume=G:\GPT-SoVITS-DockerTest\output:/workspace/output --volume=G:\GPT-SoVITS-DockerTest\logs:/workspace/logs --volume=G:\GPT-SoVITS-DockerTest\SoVITS_weights:/workspace/SoVITS_weights --workdir=/workspace -p 9870:9870 -p 9871:9871 -p 9872:9872 -p 9873:9873 -p 9874:9874 --shm-size="16G" -d breakstring/gpt-sovits:xxxxx
预训练模型
从 GPT-SoVITS Models 下载预训练模型,并将它们放置在 GPT_SoVITS\pretrained_models
中。
对于 UVR5(人声/伴奏分离和混响移除,另外),从 UVR5 Weights 下载模型,并将它们放置在 tools/uvr5/uvr5_weights
中。
中国地区用户可以进入以下链接并点击“下载副本”下载以上两个模型:
-
GPT-SoVITS Models
-
UVR5 Weights
对于中文自动语音识别(另外),从 Damo ASR Model, Damo VAD Model, 和 Damo Punc Model 下载模型,并将它们放置在 tools/damo_asr/models
中。
数据集格式
文本到语音(TTS)注释 .list 文件格式:
vocal_path|speaker_name|language|text
语言字典:
- ‘zh’: Chinese
- ‘ja’: Japanese
- ‘en’: English
示例:文章来源:https://www.toymoban.com/news/detail-828805.html
D:\GPT-SoVITS\xxx/xxx.wav|xxx|en|I like playing Genshin.
https://github.com/RVC-Boss/GPT-SoVITS/assets/129054828/05bee1fa-bdd8-4d85-9350-80c060ab47fb文章来源地址https://www.toymoban.com/news/detail-828805.html
到了这里,关于两分钟克隆你的声音,支持替换电影和视频里面的声音,免费使用支持docker一键部署,集成工具包括声音伴奏分离、自动训练集分割、中文自动语音识别(ASR)和文本标注的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!