随笔分类 -  大模型AI

摘要:大模型本地部署搭建【在线】 一、ollama的下载、安装、配置 ollama是管理和运行所有开源大模型的平台 下载地址:https://ollama.com/download 或github下载:https://github.com/ollama/ollama/releases/tag/v0.5.7 阅读全文
posted @ 2025-02-26 20:11 Xiaohu_BigData 阅读(524) 评论(0) 推荐(0)
摘要:纯离线部署本地知识库LLM大模型 一、下载离线大模型 下载的网址:https://hf-mirror.com/ deepseek qwen 相关的模型,只建议使用1.5B的,GGUF后缀的模型 推荐下载llama相关模型,同样是GGUF后缀的,自己笔记本电脑推荐下载8B的 二、下载大模型管理平台 L 阅读全文
posted @ 2025-02-26 20:10 Xiaohu_BigData 阅读(1867) 评论(0) 推荐(0)