摘要：
一、安装CudaToolkit 使用控制台命令查看当前显卡驱动中的cuda版本 nvidia-smi 二、下载CudaToolkit 注意：CudaToolkit版本要低于上面的显卡Cuda版本。Cuda各版本下载地址：https://developer.nvidia.com/cuda-toolki 阅读全文
posted @ 2025-03-14 17:37
jaxiid
阅读(5250)
评论(0)
推荐(2)
摘要：
1.环境 本文以centos7.9安装ollama为例 2.下载ollama安装包 官网地址：https://ollama.com/download/linuxGitHub手动安装文档地址：https://github.com/ollama/ollama/blob/main/docs/linux.m 阅读全文
posted @ 2025-03-14 17:35
jaxiid
阅读(985)
评论(0)
推荐(0)
摘要：
1.启动ollama服务 ollama serve 2.创建模型 (create) 使用 Modelfile 来创建一个新模型。你需要提供一个包含模型信息的 Modelfile。 ollama create /path/to/Modelfile 3.显示模型信息 (show) 查看特定模型的详细信息 阅读全文
posted @ 2025-03-14 17:34
jaxiid
阅读(1044)
评论(0)
推荐(0)
摘要：
OLLAMA_HOST=0.0.0.0 解决外网访问问题 OLLAMA_MODELS=E:\ollamamodels 解决windows模型默认下载C 盘的问题 OLLAMA_MODELS=/opt/app/middles/ollama/models 指定linux模型存储位置 OLLAMA_KEE 阅读全文
posted @ 2025-03-14 17:32
jaxiid
阅读(216)
评论(0)
推荐(0)
浙公网安备 33010602011771号