Ollama--常用属性设置
OLLAMA_HOST=0.0.0.0 解决外网访问问题 OLLAMA_MODELS=E:\ollamamodels 解决windows模型默认下载C 盘的问题 OLLAMA_MODELS=/opt/app/middles/ollama/models 指定linux模型存储位置 OLLAMA_KEEP_ALIVE=24h 设置模型加载到内存中保持24个小时(默认情况下,模型在卸载之前会在内存中保留 5 分钟) OLLAMA_HOST=0.0.0.0:8080 解决无法api访问的问题及修改默认端口11434端口 OLLAMA_NUM_PARALLEL=2 设置2个用户并发请求 OLLAMA_MAX_LOADED_MODELS=2 设置同时加载多个模型

浙公网安备 33010602011771号