懒羊羊的AI声音教学:轻松训练自己的AI声音模型 (附声音模型)

2023-11-05 05:21

本文主要是介绍懒羊羊的AI声音教学:轻松训练自己的AI声音模型 (附声音模型),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

首先听一下作者的AI懒羊羊翻唱效果,如果觉得可以,再继续往下看

【AI懒羊羊】翻唱 冬眠 core 司南

最近一段时间,AI懒羊羊的翻唱歌曲的视频再各个平台有广泛的热度。很多人都喜欢这个可爱的形象和它那萌化人心的声音。那么,这个AI声音模型是如何训练出来的呢?接下来,我将为您详细解答。

简单拆解成四步:  1,声音提取 2, 模型训练 3, 歌曲推理 4,歌曲合成

一、声音提取

声音提取是整个环节最重要的,提取声音的方法有很多,包括手动提取和自动提取。手动提取需要使用音频编辑软件,通过手动选择需要提取的音频片段,然后导出为独立的音频文件。这种方法比较简单,但是比较费时费力,适合处理少量音频。自动提取可以使用基于信号处理的方法,例如短时傅里叶变换、小波变换等,将音频信号分解为不同的频段,然后提取特征或进行分类。

  首先,为了训练AI懒羊羊的声音模型,我们需要收集大量的懒羊羊的声音样本。这些样本应该包括懒羊羊在不同情况下的语音,例如开心、生气、困惑等等。我们可以从动画、视频或者录音中获取这些声音样本。这一步必不可少也是最重要的一步。

接下来,我们需要使用深度学习框架,RVC模型技术是基于深度学习的语音处理技术,其核心原理是将输入的源声音与目标声音进行对齐和映射,从而实现将源声音转化为目标声音的效果。具体而言,RVC技术分为两个阶段:训练阶段和推理阶段。在训练阶段,RVC技术需要收集大量的源声音和目标声音数据作为训练样本,这些样本需要包含源声音和目标声音的对应关系。然后,将源声音和目标声音进行特征提取,通常使用的是基于Mel频谱的声音特征。接下来,利用深度神经网络模型,如WaveNet或Tacotron2,进行训练,训练的目标是使得模型能够准确地将源声音映射到目标声音。在推理阶段,RVC技术使用训练好的模型对新的源声音进行转换,将其转化为目标声音。整体原理是通过将源声音与目标声音进行对齐和映射,从而实现变声。调整模型的参数,以便更好地模拟懒羊羊的声音。

提取方式

此外我这里还有个 奇技淫巧 方式,

1,在视频平台搜索 懒羊羊声音合集,懒羊羊声音语录 这样的搜索方式。

2,找懒羊羊的声优配音员,找到相符合的声音,进行提取

将提取之后的视频进行转换,转换成音频格式,如果是mp4则可以改后缀mp3。其他格式也需要转成声音格式。

转成声音格式之后推荐再用UVR5进一步声音提纯处理,整理成音频素材集之后,就可以进行下一步操作了。

常用工具下载

B站视频下载工具 百度网盘 请输入提取码

视频转码工具 百度网盘 请输入提取码

UVR5.5 百度网盘 请输入提取码

UVR 使用方式 UVR5.5音频分离工具使用教程 - 模型工坊-模型工坊 (mxgf.cc)

在线下载

抖音无水印工具_最新抖音在线无水印解析_抖音图文无水印下载_TikTok Downloader no watermark_ouo工具 (ouotool.com)

二、模型训练

RVC介绍

Retrieval-based-Voice-Conversion-WebUI 简称 RVC

一个基于VITS的简单易用的语音转换(变声器)框架

将整合包下载并解压,启动go-web.bat 等待运行

RVC0813 整合包下载(整合包 包含 运行环境 启动器)

百度网盘 请输入提取码

版本说明

下载RVC0813AMD_Intel包可解锁A卡I卡

(1)双击go-realtime-gui-dml.bat使用实时变声,A卡大概能压到300ms左右,以下有压力

(2)双击go-web-dml.bat使用训练推理(CPU训练)

N卡用户下载RVC0813Nvidia

(1)双击go-realtime-gui.bat使用实时变声,N卡大概能压到100ms左右,以下有压力

(2)双击go-web.bat使用训练推理

进入训练界面,默认的参数默认就行,不用动

3,输入音频文件夹路径,处理数据

将要训练的的干声数据集放到本地任意英文路径文件夹内复,点击处理数据

处理数据

出现 end preprocess 表示处理完毕

特征提取

(特征提取是从声音信号中提取有用信息的过程,这些信息可以被用于训练模型进行分类或识别)

出现 all-feature-done 表示已经处理完毕,可以进行最后一步处理了

开始训练,设置训练的步数和保存频率

保存頻率 这个数值表示多少轮保存一次模型,如果你的电脑很牛很稳定 50轮也是可以的,不然就推荐 20-40轮保存一次模型

總訓練輪數一般 300轮,模型就可以出炉了

每张显卡的batch_size 如果你的显存是8则填8,显存多少,填多少数值。

点击一键训练

终端显示Epoch: 1字符,表示第一轮,正在训练了

等待几个小时后,就训练结束了,就可以进行下一步,对声音模型进行推理试音了。

三、 歌曲分离/推理

1,歌曲分离

1,准备好歌曲文件,格式包括AAC,FLAC等主流声音格式,但不包括加密格式,比如网易云加密歌曲,酷狗,qq音乐。

2,将歌曲文件放到UVR 5,进行分离,分离的目的是 把伴奏和人声抽离出来

处理完成之后会得到两个音频文件

1_陈雪凝 - 绿色_(Instrumental) 伴奏

1_陈雪凝 - 绿色_(Vocals) 人声

等下推理时候会用到 这个 _(Vocals) 人声部分

注:

  • 模型要记得选择 MDX-NET UVR-MDX-NET Main

处理模型下载

百度网盘 请输入提取码

将下载好的模型,放到UVR根目录下面的models文件夹下

  • 如果分离过程中出现报错,可能原因是显存或内存不足,尝试重启电脑

2,歌曲推理

  • 打开整合包

RVC0813 整合包下载(整合包 包含 运行环境 启动器)

百度网盘 请输入提取码

下载之后,解压

版本说明

下载RVC0813AMD_Intel包可解锁A卡I卡

(1)双击go-realtime-gui-dml.bat使用实时变声,A卡大概能压到300ms左右,以下有压力

(2)双击go-web-dml.bat使用训练推理(CPU训练)

N卡用户下载RVC0813Nvidia

(1)双击go-realtime-gui.bat使用实时变声,N卡大概能压到100ms左右,以下有压力

  1. 双击go-web.bat使用训练推理

选择合适自己的显卡下载

  • 等待启动,出现地址,表示启动成功

启动成功会自动跳转WEBUI

将模型放置到目录(训练好的,忽略这一步)

刷新音色,然后按顺序进行推理

解疑

音频地址

WIN11 鼠标右击可以快速复制地址,复制的地址前后如果带有双引号记得删除”“

WIN10 需要将声音文件放到 任意文件夹内,按shift+鼠标右键 选择复制路径

四、歌曲合成

所需工具 AU 链接:百度网盘 请输入提取码

解压密码 @vposy

1,转换后的歌曲人声下载到桌面

2,使用AU将伴奏和转换后的人声合并

首先新建多轨会话,将转换的人声和伴奏拉进AU

导出

教程结束,教程写的有点乱,多多包涵,有什么不懂的欢迎私。

五、模型下载

模型已上传至,模型工坊。mxgf.cc 搜索懒羊羊 就可下载 

训练写文章不易,希望支持下

这篇关于懒羊羊的AI声音教学:轻松训练自己的AI声音模型 (附声音模型)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/347695

相关文章

Spring AI集成DeepSeek三步搞定Java智能应用的详细过程

《SpringAI集成DeepSeek三步搞定Java智能应用的详细过程》本文介绍了如何使用SpringAI集成DeepSeek,一个国内顶尖的多模态大模型,SpringAI提供了一套统一的接口,简... 目录DeepSeek 介绍Spring AI 是什么?Spring AI 的主要功能包括1、环境准备2

Spring AI集成DeepSeek实现流式输出的操作方法

《SpringAI集成DeepSeek实现流式输出的操作方法》本文介绍了如何在SpringBoot中使用Sse(Server-SentEvents)技术实现流式输出,后端使用SpringMVC中的S... 目录一、后端代码二、前端代码三、运行项目小天有话说题外话参考资料前面一篇文章我们实现了《Spring

Spring AI与DeepSeek实战一之快速打造智能对话应用

《SpringAI与DeepSeek实战一之快速打造智能对话应用》本文详细介绍了如何通过SpringAI框架集成DeepSeek大模型,实现普通对话和流式对话功能,步骤包括申请API-KEY、项目搭... 目录一、概述二、申请DeepSeek的API-KEY三、项目搭建3.1. 开发环境要求3.2. mav

C#集成DeepSeek模型实现AI私有化的流程步骤(本地部署与API调用教程)

《C#集成DeepSeek模型实现AI私有化的流程步骤(本地部署与API调用教程)》本文主要介绍了C#集成DeepSeek模型实现AI私有化的方法,包括搭建基础环境,如安装Ollama和下载DeepS... 目录前言搭建基础环境1、安装 Ollama2、下载 DeepSeek R1 模型客户端 ChatBo

SpringBoot快速接入OpenAI大模型的方法(JDK8)

《SpringBoot快速接入OpenAI大模型的方法(JDK8)》本文介绍了如何使用AI4J快速接入OpenAI大模型,并展示了如何实现流式与非流式的输出,以及对函数调用的使用,AI4J支持JDK8... 目录使用AI4J快速接入OpenAI大模型介绍AI4J-github快速使用创建SpringBoot

Spring AI集成DeepSeek的详细步骤

《SpringAI集成DeepSeek的详细步骤》DeepSeek作为一款卓越的国产AI模型,越来越多的公司考虑在自己的应用中集成,对于Java应用来说,我们可以借助SpringAI集成DeepSe... 目录DeepSeek 介绍Spring AI 是什么?1、环境准备2、构建项目2.1、pom依赖2.2

0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型的操作流程

《0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeekR1模型的操作流程》DeepSeekR1模型凭借其强大的自然语言处理能力,在未来具有广阔的应用前景,有望在多个领域发... 目录0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型,3步搞定一个应

Deepseek R1模型本地化部署+API接口调用详细教程(释放AI生产力)

《DeepseekR1模型本地化部署+API接口调用详细教程(释放AI生产力)》本文介绍了本地部署DeepSeekR1模型和通过API调用将其集成到VSCode中的过程,作者详细步骤展示了如何下载和... 目录前言一、deepseek R1模型与chatGPT o1系列模型对比二、本地部署步骤1.安装oll

Spring AI Alibaba接入大模型时的依赖问题小结

《SpringAIAlibaba接入大模型时的依赖问题小结》文章介绍了如何在pom.xml文件中配置SpringAIAlibaba依赖,并提供了一个示例pom.xml文件,同时,建议将Maven仓... 目录(一)pom.XML文件:(二)application.yml配置文件(一)pom.xml文件:首

轻松上手MYSQL之JSON函数实现高效数据查询与操作

《轻松上手MYSQL之JSON函数实现高效数据查询与操作》:本文主要介绍轻松上手MYSQL之JSON函数实现高效数据查询与操作的相关资料,MySQL提供了多个JSON函数,用于处理和查询JSON数... 目录一、jsON_EXTRACT 提取指定数据二、JSON_UNQUOTE 取消双引号三、JSON_KE