Ollama--常用属性设置

OLLAMA_HOST=0.0.0.0 解决外网访问问题 OLLAMA_MODELS=E:\ollamamodels 解决windows模型默认下载C 盘的问题 OLLAMA_MODELS=/opt/app/middles/ollama/models 指定linux模型存储位置 OLLAMA_KEEP_ALIVE=24h 设置模型加载到内存中保持24个小时(默认情况下,模型在卸载之前会在内存中保留 5 分钟) OLLAMA_HOST=0.0.0.0:8080 解决无法api访问的问题及修改默认端口11434端口 OLLAMA_NUM_PARALLEL=2 设置2个用户并发请求 OLLAMA_MAX_LOADED_MODELS=2 设置同时加载多个模型
posted @ 2025-03-14 17:32  jaxiid  阅读(216)  评论(0)    收藏  举报