[FAQ] CodeLlama GGUF 文件下载

通过llama.cpp与羊驼聊天的网页界面- 详解 Serge 的启动使用

 

hf-mirror: https://hf-mirror.com/TheBloke/CodeLlama-7B-GGUF
modelscope: https://modelscope.cn/models/Xorbits/CodeLlama-7B-GGUF/

 

进入主页后,可以看到推荐的模型是 codellama-7b.Q4_K_M.gguf(medium, balanced quality - recommended)
点击选择第二Tab的模型文件,点击icon下载。

 


Link:https://www.cnblogs.com/farwish/p/17903322.html

posted on 2024-01-07 19:54  ercom  阅读(890)  评论(0)    收藏  举报