Falcon ASR: Arabic and English speech recognition

English·العربية

Arabic WER:20.92% · 参数量:1.6B · Emirati WER(TII 评估):22.73%

我们推出 Falcon-ASR,这是我们拥有 16 亿参数的阿拉伯语语音识别模型,特别侧重于阿联酋方言。它由位于阿布扎比的 Technology Innovation Institute(TII)开发,还支持英语、法语、西班牙语和葡萄牙语。

在我们的评估中,Falcon-ASR 在六个阿拉伯语测试集上的平均词错误率为 20.92%,而我们使用的排行榜快照中最佳公开结果为 23.17%。在我们的内部阿联酋评估中,它在我们所比较的系统中录得最低的词错误率和字符错误率。

我们还支持转写的词级时间戳,将每个转写词与其在音频中的位置关联起来。

试用 Falcon ASR →

识别阿拉伯语口语

阿拉伯语语音因地区、说话者和场景而异。一个能处理正式新闻广播的模型,可能仍然难以应对阿联酋方言的对话或通过电话线录制的语音。与 Modern Standard Arabic(MSA)相比,方言阿拉伯语的可转写资源也更少,这使得训练和评估更加困难。

我们在阿联酋方言、MSA、其他海湾和阿拉伯语方言以及英语上训练了 Falcon-ASR。我们的目标是转写人们在日常口语中使用的词,包括方言形式以及语言之间的切换。

阿拉伯语基准测试结果

TheOpen Universal Arabic ASR Leaderboard由 ELM Research Center 维护,按六个测试集的等权平均 WER 对系统进行排名。它还报告字符错误率(CER)。两项指标均为数值越低越好。我们的 Falcon-ASR 评估遵循这一协议。

falcon-asr-arabic

WER = 词错误率;CER = 字符错误率。数值越低表示性能越好。

我们使用排行榜固定的 manifest,在同样的六个基准测试上评估了 Falcon-ASR。竞品数据为截至 2026 年 9 月 30 日核对的已发布排行榜平均值。Falcon-ASR 的平均 WER 比该快照中最佳公开结果好 2.25 个百分点。

评估阿联酋语音

公开评估数据已经包含阿联酋方言:Casablanca有一个阿联酋子集。我们通过内部评估额外的阿联酋和海湾地区语音来补充这一覆盖范围,使用留出的录音和经过人工验证的转录文本,以评估公开阿联酋子集之外的转录准确性。

在我们的内部阿联酋评估中,Falcon-ASR 达到了 22.73% 的 WER 和 10.19% 的 CER:

falcon-asr-emirati

Falcon-ASR 在此处比较的系统中拥有最低的 WER 和 CER。其 WER 比排名第二的 Qwen3-Omni 低 4.07 个百分点。结果表明,在此评估中,词级和字符级的转录准确性均有所提升。

针对不同录音条件的训练

我们纳入了背景噪声、重叠语音、音乐、房间混响和电话效应,以及语速和音高的变化。我们对阿联酋录音应用了相同的处理,使模型接触到它在会议、通话和其他日常录音中可能遇到的各种条件。

英语和其他语言

Falcon-ASR 也使用相同的模型权重转录英语。在我们对 Hugging Face Open ASR Leaderboard 所使用的七个公开英语测试集的评估中,它达到了 5.74% 的平均 WER。

falcon-asr-english

该模型还支持法语、西班牙语和葡萄牙语。所有五种语言使用相同的权重,无需语言标记。输出为所讲语言的转录文本。

模型基础

Falcon-ASR 建立在我们 Falcon3-Audio 工作的基础上。Falcon3-Audio 的架构和训练方法描述于Competitive Audio-Language Models with Data-Efficient Single-Stage Training on Public Data。

试用 Falcon ASR

我们的Hugging Face Demo Space让你可以试用 Falcon-ASR 并探索其转录能力。API 访问和原生应用正在计划中。我们邀请你用自己的录音试用该 Demo。

致谢

我们感谢 Falcon-Emirati 模型背后的团队在阿拉伯语基础模型方面提供的支持。阅读他们最新工作的Falcon-Emirati 博客文章。

我们还要衷心感谢 Mikhail Lubinets 在计算基础设施方面持续提供的支持。


نقدّم Falcon ASR

我们推出 Falcon-ASR,这是我们拥有 16 亿参数的阿拉伯语语音识别模型,特别关注阿联酋方言。我们在阿布扎比的科技创新研究所(TII)开发了该模型,它还支持英语、法语、西班牙语和葡萄牙语。

在我们的评估中,Falcon-ASR 在六个阿拉伯语测试集上的平均词错误率为 20.92%,而我们使用的排行榜版本中已公布的最佳结果为 23.17%。在我们对阿联酋方言的内部评估中,该模型在参与比较的系统中取得了最低的词错误率和字符错误率。

我们还支持转录中的词级时间戳,使每个词都与音频中的位置相关联。

试用 Falcon ASR ←

识别阿拉伯语口语

阿拉伯语语音因地区、说话者和录音条件而异。一个模型可能能转录正式的新闻播报,却难以转录阿联酋方言的对话或电话录音。此外,阿拉伯语方言的带文本转录的语音资源少于现代标准阿拉伯语可用的资源,这增加了训练和评估的难度。

我们训练 Falcon-ASR 时使用了阿联酋方言、现代标准阿拉伯语以及其他海湾和阿拉伯方言,还有英语。我们的目标是转录人们在日常对话中使用的词语,包括方言形式和语码转换。

阿拉伯语测试结果

排名阿拉伯语语音识别综合公开排行榜该排行榜由 ELM 研究中心管理,按六个测试集的平均词错误率对系统进行排名,每个测试集权重相同。它还显示字符错误率(CER)。这两个指标的值越低,性能越好。我们对模型的评估遵循这一协议。

مقارنة معدلات خطأ الكلمات والأحرف في الاختبارات العربية

WER 是词错误率;CER 是字符错误率。值越低表示性能越好。

我们在相同的六个测试集上评估了 Falcon-ASR,使用排行榜中固定的样本列表。竞争模型的数字是排行榜中公布的平均值,已于 2026 年 9 月 30 日核实。该模型的平均词错误率比该版本中已公布的最佳结果好 2.25 个百分点。

阿联酋方言评估

已有用于评估阿联酋方言的公开数据,因为该数据集包含Casablanca阿联酋专属部分。我们通过内部评估补充了更多阿联酋和海湾阿拉伯语语音录音,使用专门的测试录音和经过人工审核的参考文本,以评估在阿联酋公开数据之外的其他材料上的转录准确率,从而完善这一覆盖。

在我们内部的阿联酋评估中,Falcon-ASR 的词错误率为 22.73%,字符错误率为 10.19%:

مقارنة معدلات خطأ الكلمات والأحرف في التقييم الإماراتي

Falcon-ASR 在此处比较的系统中录得最低的词错误率和字符错误率。其词错误率比排名次之的 Qwen3-Omni 低 4.07 个百分点。结果表明,在此评估中,词级和字符级的转录准确率有所提升。

在不同录音条件下的训练

我们在训练数据中加入了背景噪音、重叠语音、音乐、回声和电话通信效果,以及语速和音调的变化。我们对阿联酋录音应用了相同的处理,以使模型为在会议、通话和其他日常录音中可能遇到的不同条件做好准备。

英语和其他语言

Falcon-ASR 使用相同的模型权重转录英语语音。在我们对 Hugging Face 开放语音识别排行榜中使用的七个英语公开测试集的评估中,平均词错误率为 5.74%。

معدلات خطأ الكلمات في مجموعات الاختبار الإنجليزية

该模型还支持法语、西班牙语和葡萄牙语。这五种语言使用同一套权重,无需事先指定语言。输出为所讲语言的文本转录。

模型基础

Falcon-ASR 基于我们在 Falcon3-Audio 中的工作。论文Competitive Audio-Language Models with Data-Efficient Single-Stage Training on Public Data介绍了 Falcon3-Audio 的架构和训练方法。

Falcon ASR 体验

提供我们在 Hugging Face 上的演示体验 Falcon-ASR 并探索其语音转录能力。通过 API 和原生应用的访问已在计划中。我们邀请您使用自己的录音来试用该模型。

致谢

我们衷心感谢 Falcon-Emirati 模型开发团队在阿拉伯语基础模型领域给予的支持。可以通过以下链接查看该团队的最新工作:关于 Falcon-Emirati 的已发表文章。

我们还要向 Mikhail Lubinets 致以诚挚的感谢,感谢他对计算基础设施的持续支持。