Oossa

NVIDIA发布Nemotron 3.5语音模型及训练数据

这款开放权重模型可转写40种语言,还能翻译、标注说话人并回答音频相关问题。开发者可从Hugging Face和ModelScope下载。

作者: Oossa 发布日期: 最后更新: 2 分钟阅读

Jonathan Farber · Unsplash

NVIDIA发布了Nemotron 3.5 Transcribe。这款开放权重模型将语音转写、翻译、说话人标注和音频问答整合到一个系统中。开发者可在Hugging Face和ModelScope获取模型,并通过自然语言提示,让同一段录音生成不同内容,例如带说话人标注的转写稿,或英文译文。

Hugging Face上的帖子称,该模型支持转写40种语言、将31种语言与英语互译,并能为13种语言的音频标注说话人,最多可识别8位说话人。它还支持逐词时间戳。音频问答功能以英语训练;帖子提到可处理最长1小时的录音,而SiliconANGLE称它能消化100小时音频并回答相关问题。两种说法没有说明,指的是不同的输入时长限制还是功能能力。

基准测试结果如何?

Nemotron 3.5是一款拥有300亿参数的混合专家模型,每次运行时约有40亿参数处于激活状态。NVIDIA在Hugging Face发布的帖子称,该模型在Hugging Face Open ASR Leaderboard的英语赛道上位列开放权重模型第一,平均词错误率(WER)为5.33%;WER越低,转写错误越少。帖子还报告称,该模型在七种语言上的平均WER为4.62%,长音频赛道的WER为10.98%,在其对比的开放权重模型中均为最低。

帖子还列出了其他评测成绩:在Artificial Analysis语音转文本排行榜上,AA-WER为2.8%,与其他模型并列开放权重模型第一;在David AI的21种语言基准测试中,说话人分离错误率最低。NVIDIA表示,针对医疗语音进行微调后,该模型在Eka Care印度医疗语音基准测试上的WER降至11.8%。这些数字反映的是特定测试结果,并不保证模型在每段录音上都能达到同样的准确度。

开发者如何调整模型?

NVIDIA还发布了Granary v2——一个开放的多语言语音数据集和数据整理流程,并同步推出微调工具。它涵盖48种语言、19个来源集合,共843,579小时的数据;上一版则涵盖25种语言、约643,000小时的数据。开发者可以利用这些数据和工具,让模型适应专业词汇、口音或偏好的转写格式。在一项医疗案例研究中,Hugging Face上的帖子称,微调后,模型在未参与训练的说话人语音上的WER比最佳提示词低45.8%。

该模型可在单张NVIDIA GPU上运行,硬件范围从Jetson AGX Thor和桌面DGX Spark系统到数据中心设备。NVIDIA表示,使用压缩模型设置时,一块Blackwell Server Edition GPU在不到三分钟内处理了100小时音频;Hugging Face上的帖子说明,这项测试使用了并发处理量较高的30秒音频片段。帖子称,该模型面向录制音频设计,不适用于实时流式处理,并建议用户对照录音核查人名、说话人变化和回答内容。

为什么重要

开发者可以尝试用同一个模型为会议、课程或医疗听写生成转写稿、说话人标注和翻译,再通过微调适配专业术语。已公布的基准测试成绩并不能说明模型在某一段具体录音上的准确度,因此用户仍需核对重要人名和答案。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。