2024年1月10日
使用推测解码 (Speculative Decoding) 使 Whisper 实现 2 倍的推理加速
摘要： Open AI 推出的 Whisper 是一个通用语音转录模型，在各种基准和音频条件下都取得了非常棒的结果。最新的 large-v3 模型登顶了 OpenASR 排行榜，被评为最佳的开源英语语音转录模型。该模型在 Common Voice 15 数据集的 58 种语言中也展现出了强大的多语言性能，在 阅读全文
posted @ 2024-01-10 22:48 HuggingFace 阅读(1304) 评论(0) 推荐(0)