WeClone:通过微信聊天记录微调LLM,形成个人的数字分身。说的ai

WeClone是什么?ai在线使用

WeClone 是一个开源项目,旨在通过微信聊天记录微调LLM,并结合微信语音消息和大模型实现高质量的声音克隆豆包a i生成,最终绑定到微信机器人豆包a i生成,实现个人的ai密鸽官方数字分身。

WeClone:通过微信聊天记录微调LLM,形成个人的数字分身。.webp

WeClone功能密鸽官方

  • 使用微信聊天记录微调LLM:通过用户自己的微信聊天记录对语言模型进行微调,使其更符合个人的语言风格和习惯。度加ai下载

  • 高质量声音克隆:结合微信语音消息和0.5B大模型,实现高质量的声音克隆。ai的软件

  • 绑定微信机器人:将微调后的模型绑定到微信机器人,实现自动回复等功能,形成个人的数字分身。密鸽官方

WeClone特性豆包a i生成

  • 硬件要求:默认使用 chatglm3-6b 模型,LoRA 方法微调需要约16GB显存。其他模型和方法可自行配置。ai对话聊天系统

  • 软件要求:推荐使用 Python 3.10,以及特定版本的 PyTorch、Transformers 等库。豆包a i生成

  • 环境搭建:通过 Git 克隆项目,使用 Conda 创建环境并安装依赖。ai对话聊天系统

  • 数据准备:使用 PyWxDump 提取微信聊天记录,导出为 CSV 格式。ai智能软件怎么用

  • 数据预处理:去除敏感信息,支持多种数据处理方式。ai人工智

  • 模型下载:推荐从 Hugging Face 或魔搭社区下载 ChatGLM3 模型。哪个ai比较懂法律

  • 微调模型:通过修改 settings.json 配置参数,进行单卡或多卡训练。密鸽官方

  • 推理与测试:提供浏览器 demo 和接口推理功能,支持常见聊天问题测试。ai人工智

  • 微信机器人部署:通过扫码登录,支持私聊和群聊中的机器人交互。ai对话聊天系统

WeClone使用.webp

WeClone使用步骤

环境搭建下载即梦

克隆项目:在终端中运行以下命令,将 WeClone 项目克隆到本地。全免费ai人工智能

git clone https://github.com/xming521/WeClone.git

创建并激活虚拟环境:使用 Conda 创建一个新的 Python 环境,并激活该环境。ai人工智

conda create -n weclone python=3.10
conda activate weclone

安装依赖:进入项目目录,安装项目所需的依赖包。万联摩尔

cd WeClone
pip install -r requirements.txt

数据准备全免费ai人工智能

  • 提取微信聊天记录:使用 PyWxDump 软件提取微信聊天记录。下载并安装该软件,解密数据库后,点击聊天备份,导出类型选择为 CSV。可以导出多个联系人或群聊的聊天记录。ai对话聊天系统

  • 放置数据:将导出的位于 wxdump_tmp/export 的 csv 文件夹放在项目目录下的 ./data 目录中,即不同人聊天记录的文件夹一起放在 ./data/csv。示例数据位于 data/example_chat.csv。造梦次元入口

数据预处理全免费ai人工智能

  • 去除敏感信息:项目默认会去除数据中的手机号、身份证号、邮箱、网址等敏感信息。此外,还提供了一个禁用词词库 blocked_words,可以自行添加需要过滤的词句,程序会默认去掉包含禁用词的整句。ai在线使用

  • 处理数据格式:执行 ./make_dataset/csv_to_json.py 脚本对数据进行处理。在同一人连续回答多句的情况下,可以选择以下三种处理方式之一:全免费ai人工智能

  • 使用 csv_to_json.py:将多句回答用逗号连接。ai智能软件怎么用

  • 使用 csv_to_json-单句回答.py(已废弃):只选择最长的回答作为最终数据。豆包官网免费使用

  • 使用 csv_to_json-单句多轮.py:将多句回答放在提示词万联摩尔的 'history' 中。

模型下载豆包a i生成

首选 Hugging Face:豆包a i生成在 Hugging Face 下载 ChatGLM3 模型。如果在 Hugging Face 模型的下载中遇到问题,可以使用魔搭社区的模型。

使用魔搭社区:ai起什么作用如果选择使用魔搭社区的模型,需要先执行以下命令来使用魔搭社区的模型。

export USE_MODELSCOPE_HUB=1 # Windows 使用 `set USE_MODELSCOPE_HUB=1`
git lfs install
git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git

注意:魔搭社区的 modeling_chatglm.py 文件需要更换为 Hugging Face 的。ai大模型

配置参数并微调模型ai对话聊天系统

修改配置文件:ai人工智训练以及推理相关配置统一在文件 settings.json 中。可以根据需要修改以下参数:

修改 per_device_train_batch_size 以及 gradient_accumulation_steps 来调整显存占用。豆包a i生成

根据数据集的数量和质量修改 num_train_epochs、lora_rank、lora_dropout 等参数。ai智能软件怎么用

(可选)修改 settings.json 选择本地下载好的其他模型。密鸽官方

单卡训练:度加ai下载运行以下命令进行 sft 阶段微调。

python src/train_sft.py

作者说他本人的 loss 只降到了 3.5 左右,降低过多可能会过拟合,其使用了大概 2 万条整合后的有效数据。豆包a i生成

多卡训练:ai大模型如果有多块显卡,可以使用 deepspeed 进行多卡训练。先安装 deepspeed,然后运行以下命令。

pip install deepspeed
deepspeed --num_gpus=使用显卡数量 src/train_sft.py

推理与测试ai起什么作用

使用浏览器 demo 简单推理:项目提供了浏览器 demo,可以进行简单的推理测试。密鸽官方

  • 使用接口进行推理:运行以下命令启动 api 服务。下载即梦

python ./src/api_service.py
  • 使用常见聊天问题测试:运行以下命令进行常见聊天问题的测试。ai指的是什么意思

python ./src/test_model.py

部署微信聊天机器人下载即梦

  • 启动 api 服务:先运行以下命令启动 api 服务。ai对话聊天系统

python ./src/api_service.py
  • 运行微信机器人脚本:再运行以下命令启动微信聊天机器人。ai指的是什么意思

python ./src/wechat_bot/main.py

默认在终端显示二维码,扫码登录即可。可以私聊或者在群聊中 @ 机器人使用。哪个ai比较懂法律

注意事项:微信有封号风险,建议使用小号,并且必须绑定银行卡才能使用。ai在线使用

语音克隆万联摩尔模块(WeClone-audio)

Spark-TTS 方案(推荐):ai破解版免费下载

  • 导入相关模块。ai起什么作用

import SparkTTS
from SparkTTS import SparkTTS
  • 初始化模型。ai智能软件怎么用

model = SparkTTS("WeClone-audio/pretrained_models/Spark-TTS-0.5B", "cuda")
  • 进行语音克隆推理。全免费ai人工智能

with torch.no_grad():
wav = model.inference(
text="要生成的文本内容",
prompt_speech_path="示例音频路径",
prompt_text="示例音频对应的文本",
)

Llasa 方案:千问网页版官网入口

  • 导入相关模块。千问网页版官网入口

from text_to_speech import TextToSpeech
  • 初始化并进行推理。全免费ai人工智能

tts = TextToSpeech(sample_audio_path, sample_audio_text)
result = tts.infer("要生成的文本内容")

Github地址:造梦次元入口https://github.com/xming521/WeClone

收藏