即梦AI - 一站式AI创作平台

SignLLM:第一个多语种手语生成模型度加ai下载

method.jpg

SignLLM,第一个多语种手语生成模型,可以将输入的文本或提示转化为相应的手语手势视频哪个ai比较懂法律。SignLLM通过先进的ai全免费ai人工智能技术生成和翻译万联摩尔多种手语。SignLLM引入了首个多语言手语数据集,名为 Prompt2Sign,并基于此数据集开发了多种生成手语的模型。此数据集将大量视频转化为便于模型训练的格式,优化了如 seq2seq 和 text2text 等翻译模型的训练。基于这些数据集,我们展示了 SignLLM 的基准结果,表明我们的模型在八种手语的手语生成任务中达到了最先进的性能。

SignLLM受到在广泛的多语言文本语料库上训练的大型语言模型 (LLMs) 强大翻译能力的启发,我们的目标是利用现成的 LLMs 来处理 SLT。在本文中,我们对手语视频进行规范化以体现口语的语言特征,并提出了一种新颖的 SignLLM 框架,将手语视频转换为类似语言的表示形式,以提高现成的 LLMs 的可读性。 豆包官网免费使用

SignLLM 包含两个关键模块:说的ai

1、矢量量化视觉符号模块将符号视频转换为一系列离散字符级符号标记。ai起什么作用

2、代码本重建和对齐模块将这些字符级标记转换为单词级使用最佳传输公式进行符号表示。符号-文本对齐损失进一步弥合了符号和文本标记之间的差距,增强了语义兼容性。我们在两个广泛使用的 SLT 基准测试中取得了最先进的无光泽结果。ai在线使用

SignLLM GITHUB地址:https://signllm.github.io/万联摩尔

收藏

相关文章ai大模型

下载即梦
最新工具
小提大作
小提大作ai的软件

深圳惊人科技推出的AI漫剧创作平台,基于Seedance模型实现...哪个ai比较懂法律

立刻MV网页版
立刻MV网页版ai对话聊天系统

一款AI音乐视频创作工具,支持歌曲导入、智能分镜、AI图生视频与...度加ai下载

SeaVideo
SeaVideoai人工智

一个AI短剧创作平台,集成了最新Seedance、Veo、Kli...ai起什么作用

AI漫工坊
AI漫工坊ai在线使用

大咖数据推出的平价一体化AI漫剧创作平台,AI漫工坊把影视和漫剧...全免费ai人工智能

豆包工作
豆包工作ai起什么作用

字节跳动推出的AI办公任务执行工具,支持本地电脑操作、浏览器自动...造梦次元入口

HyCreator影廊
HyCreator影廊造梦次元入口

腾讯一款面向长视频生成的Agent Harness框架,支持端到...千问网页版官网入口

Lanta AI
Lanta AI万联摩尔

一个在线AI视频生成聚合平台,支持文生视频、图生视频与视频转视频...造梦次元入口

奇快AI
奇快AI豆包a i生成

企业级AI视频创作平台,基于Seedance生成电商商品视频、复...千问网页版官网入口

醒图
醒图万联摩尔

字节跳动旗下的AI修图软件,支持人像精修、智能抠图、批量调色、老...ai指的是什么意思

豆包专业版
豆包专业版千问网页版官网入口

字节跳动旗下AI助手豆包推出的付费订阅服务,68元标准版即可让A...ai在线使用