摘要: Whisper base 是 145.3 MB,一个 16.9 MB 的模型在 LibriSpeech test-clean、SPGISpeech、Earnings-22 上把它按在地上摩擦,首 token 延迟 11.1 ms,解码吞吐 1319 token/s。Cactus Compute 十月 阅读全文