Ollama系列---【ollama如何安装魔搭社区的gguf的模型?】

一、在线直接从魔搭安装

魔搭社区官网:https://modelscope.cn/models?libraries=GGUF&name=qwen3&page=1&tabKey=libraries

#这里的模型下载地址就是魔搭社区的git clone的地址,去掉“.git”后缀,等待下载完成即可。
ollama run https://www.modelscope.cn/unsloth/Qwen3-0.6B-GGUF

二、离线安装gguf模型

1.下载模型

2.下载好之后

3.手写的Modelfile文件中的内容如下

FROM ./Qwen3-8B-Q4_K_M.gguf

4.通过ollama本地安装模型

# Qwen3-8B模型名字可以自定义
ollama create Qwen3-8B -f ./Modelfile

三、查看指定模型的Modelfile内容

ollama show --modelfile qwen2.5:7b

posted on 2025-09-07 01:40  少年攻城狮  阅读(33)  评论(0)    收藏  举报

导航