Ollama笔记

Ollama 是一个开源的大型语言模型(LLM)平台,用于简化大语言模型的本地部署和使用

通过容器化技术封装模型,并提供命令行工具和 RESTful API,使得用户可以在本地快速启动和管理模型

ollama 官网(https://ollama.com/)以提供常用的大模型,可直接拉取,也支持三方模型社区拉取

常用命令

  启动服务 ollama serve

    默认端口为 11434

    lsof -i:11434

    浏览器打开 http://ip:11434/,页面会显示 

  查看运行的哪个模型

  http://XX.XX.XX.XX:11434/v1/models/running

  版本查看 ollama --version

  运行模型 ollama run  model_name

  显示某个模型信息 ollama show model_name

  列出所有模型 ollama list

  列出正在运行的模型 ollama ps

  从注册表拉取模型 ollama pull model_name

  删除某个模型 ollama rm model_name

 

posted @ 2025-02-21 15:00  慕尘  阅读(204)  评论(0)    收藏  举报