AI | ollama - [入门]

目录

• 基本资料
  • 官网
  • ollama 是什么
• 安装
• 使用
  • 获取模型
  • 指令

基本资料

官网

https://ollama.com/

ollama 是什么

基本可以理解为 LLM 的 docker
通过它，可以拉取大模型镜像并本地运行

安装

直接通过官网获取

使用

整体上与 docker 很类似

获取模型

访问 https://ollama.com/search

点进模型中可以看到介绍，部分模型详情风格如下

也有的长这样，推荐使用这样的模型，按照 size 选择自己的机器带得动的

上图列表中，即是模型名，后面以 qwen3.5:9b 为例

选取模型时有两个注意事项

• size：上图中的 size，不仅是磁盘占用，同时也是内存占用

假设：整机内存 32G，开机后即使用了 16G，那么 qwen3.5:27b 对于当前的机器就是不可用的，因为它需要 17G 可用内存，而机器只剩 16G 了

• 平台支持：部分模型对操作系统有要求

比如截至此贴，生图模型，比如 x-image-turbo，只能正常工作在 mac 上
实测结果是模型可以运行，但不能正常输出

指令

查看所有指令：ollama -h

拉取 qwen3.5:9b 模型：ollama pull qwen3.5:9b
已经拉取了什么模型：ollama list
运行模型：ollama run qwen3.5:9b

运行模型后，即可在命令行进行聊天

哪些模型正在运行：ollama ps
退出模型：/bye