Ollama笔记
Ollama 是一个开源的大型语言模型(LLM)平台,用于简化大语言模型的本地部署和使用
通过容器化技术封装模型,并提供命令行工具和 RESTful API,使得用户可以在本地快速启动和管理模型
ollama 官网(https://ollama.com/)以提供常用的大模型,可直接拉取,也支持三方模型社区拉取
常用命令
启动服务 ollama serve
默认端口为 11434
lsof -i:11434
浏览器打开 http://ip:11434/,页面会显示
查看运行的哪个模型
http://XX.XX.XX.XX:11434/v1/models/running

版本查看 ollama --version
运行模型 ollama run model_name
显示某个模型信息 ollama show model_name
列出所有模型 ollama list
列出正在运行的模型 ollama ps
从注册表拉取模型 ollama pull model_name
删除某个模型 ollama rm model_name
 
                    
                
 
                
            
         浙公网安备 33010602011771号
浙公网安备 33010602011771号