即梦AI - 一站式AI创作平台

SignLLM:第一个多语种手语生成模型全免费ai人工智能

method.jpg

SignLLM,第一个多语种手语生成模型,可以将输入的文本或提示转化为相应的手语手势视频度加ai下载。SignLLM通过先进的aiai在线使用技术生成和翻译下载即梦多种手语。SignLLM引入了首个多语言手语数据集,名为 Prompt2Sign,并基于此数据集开发了多种生成手语的模型。此数据集将大量视频转化为便于模型训练的格式,优化了如 seq2seq 和 text2text 等翻译模型的训练。基于这些数据集,我们展示了 SignLLM 的基准结果,表明我们的模型在八种手语的手语生成任务中达到了最先进的性能。

SignLLM受到在广泛的多语言文本语料库上训练的大型语言模型 (LLMs) 强大翻译能力的启发,我们的目标是利用现成的 LLMs 来处理 SLT。在本文中,我们对手语视频进行规范化以体现口语的语言特征,并提出了一种新颖的 SignLLM 框架,将手语视频转换为类似语言的表示形式,以提高现成的 LLMs 的可读性。 造梦次元入口

SignLLM 包含两个关键模块:万联摩尔

1、矢量量化视觉符号模块将符号视频转换为一系列离散字符级符号标记。度加ai下载

2、代码本重建和对齐模块将这些字符级标记转换为单词级使用最佳传输公式进行符号表示。符号-文本对齐损失进一步弥合了符号和文本标记之间的差距,增强了语义兼容性。我们在两个广泛使用的 SLT 基准测试中取得了最先进的无光泽结果。ai破解版免费下载

SignLLM GITHUB地址:https://signllm.github.io/说的ai

收藏

相关文章ai对话聊天系统

度加ai下载
最新工具
Flux Art
Flux Artai破解版免费下载

一站式AI视觉生成平台,聚合GPT Image 2、Nano B...千问网页版官网入口

Clipop AI
Clipop AI豆包a i生成

一款长视频转短视频工具,自动识别高光片段并生成适配TikTok、...ai指的是什么意思

片成
片成ai人工智

一款AI视频创作工具,靠Whisper自动识别语音加字幕,100...下载即梦

博主农场
博主农场ai指的是什么意思

专为自媒体博主设计的AI创作工具,覆盖脚本生成、封面制作、热点选...全免费ai人工智能

StonkRider
StonkRider全免费ai人工智能

一款免费在线股票图表摩托车游戏,将真实历史K线转化为可骑行的越野...豆包a i生成

 Ciaro Pro
Ciaro Proai智能软件怎么用

一个从剧本到成片的AI影视制作平台,集成剧本写作、角色设计、故事...千问网页版官网入口

VEOAIFree
VEOAIFreeai人工智

基于Google VEO的免费AI视频生成器,不用注册、无水印、...哪个ai比较懂法律

OxygenVision
OxygenVision密鸽官方

京东零售推出的AI电商设计智能体,目前完全免费,专门帮电商运营人...豆包官网免费使用

火山剧创Agent
火山剧创Agent豆包a i生成

字节跳动火山引擎推出的企业级一站式AI短剧创作平台,基于多智能体...豆包a i生成

Pixmax
Pixmax说的ai

一站式AI短剧漫剧与图像创作平台,聚合Seedance、Klin...ai指的是什么意思