MI50在ollama0.40.4上推理速度大提升

     看到github上的ollama-0.40.4-rc1更新了后端的llama.cpp到b11521，试着编译更新到本地，看看有无变化。

 

原有ollama0.34.0:

推理解码大概速度是18t/s左右，偶尔能蹦出20t/s，有时也能降到14t/s

 

ollama0.40.4上：

稠密模型破天荒到了28+t/s

 后续继续提问，输出速度降到25t/s