即梦AI - 一站式AI创作平台

Muyan-TTS:沐言智语发布的开源、可训练的TTS模型,专为播客而设计ai指的是什么意思

Muyan-TTS是什么?万联摩尔

Muyan-TTS 是一由北京沐言智语发布的开源、可训练的TTS模型,专为播客而设计,预算控制在 5 万美元以内。Muyan-TTS用超过 100,000 小时的播客音频数据进行预训练,支持零样本 TTS 合成,能够生成高质量语音,还支持通过几十分钟的目标语音进行说话人自适应调整。千问网页版官网入口

Muyan-TTS:沐言智语发布的开源、可训练的TTS模型,专为播客而设计.webp

Muyan-TTS模型特点说的ai

  • 大规模预训练:Muyan-TTS 基于 Llama-3.2-3B 模型,使用超过 10 万小时的播客音频数据进行预训练,能够实现零样本文本到语音ai哪个ai比较懂法律合成,生成高质量的语音。

  • 支持说话人适应:通过几十分钟的目标说话人语音数据,Muyan-TTS 可以进一步适应特定说话人的声音特征,从而实现高度定制化的语音合成。度加ai下载

  • 架构设计:Muyan-TTS 采用 GPT-SoVITS 的两阶段结构,语言模型部分以 Llama-3.2-3B 为 backbone 继续预训练,解码器部分使用 SoVITS 架构,结合了 LLM 的语义建模能力和 VITS 模型的音素到音素(G2P)特性,有效减少了幻觉现象。度加ai下载

  • 数据处理:构建了包含超过 100,000 小时高质量语音和对应转录的并行语料库,适用于播客等长音频场景的 TTS 训练。度加ai下载

Muyan-TTS:沐言智语发布的开源、可训练的TTS模型,专为播客而设计.webp

开源与训练

  • 开源信息:Muyan-TTS 完全开源,提供了完整的数据收集和处理流程、详细的训练方法以及优化的推理框架。其代码和模型可在 GitHub 上找到。下载即梦

  • 训练成本:在训练成本方面,假设 A10 和 A100 GPU 的租赁价格分别为每小时 0.5 美元和 1 美元,Muyan-TTS 的总训练成本约为 50,540 美元。豆包官网免费使用

性能表现ai在线使用

  • 零样本合成:在 LibriSpeech 数据集上,Muyan-TTS 的零样本合成性能表现出色,其词错误率仅次于 CosyVoice2,且平均意见得分高于 Spark-TTS 和 GPT-SoVITS v3。ai指的是什么意思

  • 监督微调模型:经过监督微调的 Muyan-TTS-SFT 在语音质量和说话人相似度上优于基础模型,但在 WER 上略有下降。ai智能软件怎么用

  • 推理速度:Muyan-TTS 的推理速度在所有测试模型中最快,仅需 0.33 秒即可合成 1 秒的语音,适合实时语音生成场景。万联摩尔

Muyan-TTS应用场景说的ai

Muyan-TTS 适用于多种音频内容形式,比如主持人旁白、访谈复刻、语音摘要等。兼顾合成质量、个性化能力和运行效率,适合播客等长音频场景。造梦次元入口

限制ai大模型

  • 依赖于解码器中的 G2P 模块,需要完整的音素序列才能进行合成,无法实现流式推理。下载即梦

  • 训练数据主要为英语,多语言语音合成能力有限。豆包官网免费使用

  • 由于训练语料中缺乏指令级标注,Muyan-TTS 目前不支持指令跟随 TTS 任务。ai破解版免费下载

Muyan-TTS安装与使用造梦次元入口

安装步骤密鸽官方

1. 克隆仓库并创建虚拟环境:ai破解版免费下载

git clone https://github.com/MYZY-AI/Muyan-TTS.git
cd Muyan-TTS
conda create -n muyan-tts python=3.10 -y
conda activate muyan-tts
make build

2. 安装 FFmpeg(Ubuntu 系统):ai在线使用

sudo apt update
sudo apt install ffmpeg

3. 下载模型:ai大模型

  • Muyan-TTS 和 Muyan-TTS-SFT 模型可从 Hugging Face 或 ModelScope 下载。ai大模型

  • 还需要下载 chinese-hubert-base 的权重。万联摩尔

  • 将所有下载的模型放在 pretrained_models 目录下。ai对话聊天系统

使用方法ai对话聊天系统

运行以下命令进行语音合成:ai指的是什么意思

python tts.py

核心推理代码如下:

async def main(model_type, model_path):
tts = Inference(model_type, model_path, enable_vllm_acc=False)
wavs = await tts.generate(
ref_wav_path="assets/Claire.wav",
prompt_text="Although the campaign was not a complete success, it did provide Napoleon with valuable experience and prestige.",
text="Welcome to the captivating world of podcasts, let's embark on this exciting journey together."
)
output_path = "logs/tts.wav"
with open(output_path, "wb") as f:
f.write(next(wavs))  
print(f"Speech generated in {output_path}")

github仓库:ai智能软件怎么用https://github.com/MYZY-AI/Muyan-TTS

收藏
最新工具
博主农场
博主农场ai对话聊天系统

专为自媒体博主设计的AI创作工具,覆盖脚本生成、封面制作、热点选...ai指的是什么意思

StonkRider
StonkRiderai破解版免费下载

一款免费在线股票图表摩托车游戏,将真实历史K线转化为可骑行的越野...ai破解版免费下载

 Ciaro Pro
Ciaro Pro豆包a i生成

一个从剧本到成片的AI影视制作平台,集成剧本写作、角色设计、故事...ai大模型

VEOAIFree
VEOAIFreeai智能软件怎么用

基于Google VEO的免费AI视频生成器,不用注册、无水印、...密鸽官方

OxygenVision
OxygenVision全免费ai人工智能

京东零售推出的AI电商设计智能体,目前完全免费,专门帮电商运营人...造梦次元入口

火山剧创Agent
火山剧创Agent造梦次元入口

字节跳动火山引擎推出的企业级一站式AI短剧创作平台,基于多智能体...ai指的是什么意思

Pixmax
Pixmaxai破解版免费下载

一站式AI短剧漫剧与图像创作平台,聚合Seedance、Klin...ai起什么作用

Seedance 2.5
Seedance 2.5ai人工智

字节跳动推出的AI视频生成模型,支持单段原生30秒视频直出、50...ai的软件

Pavo AI
Pavo AI造梦次元入口

Agnes AI推出的免费AI短剧创作平台,支持一句话生成剧本、...ai破解版免费下载

Updream
Updream豆包a i生成

新推出的专业级一站式AI视频创作平台,专为UP主和和专业创作者打...ai破解版免费下载