全部文章

文章分类 -  AI-8模型微调与部署专题

摘要:最近国产大模型DeepSeek特别火,以至于频繁出现反应迟缓甚至宕机的情况,和两年多之前ChatGPT的遭遇颇为相似。 万幸,DeepSeek是一个开源模型,我们大可以通过本地部署,在自己的终端上随时使用!接下来就教大家具体的操作: 一、用Ollama下载模型 首先我们需要安装Ollama,它可以在 阅读全文
posted @ 2025-07-24 20:46 指尖下的世界 阅读(28) 评论(0) 推荐(0)
摘要:LLM探索:环境搭建与模型本地部署 LLM探索:GPT类模型的几个常用参数 Top-k, Top-p, Temperature DeepSeek火爆全网,官网宕机?本地部署一个随便玩「LLM探索」 阅读全文
posted @ 2025-07-24 20:39 指尖下的世界 阅读(7) 评论(0) 推荐(0)
摘要:技术必要性分析 ​​本地部署的必要性​​: 场景适配:当需要处理敏感数据/定制化需求时(如医疗、金融场景),本地部署是刚需。若目标是开发行业应用(如医疗咨询、法律文书分析),本地部署是落地的关键环节。例如,通过本地微调 DeepSeek-R1-Distill-Qwen-1.5B 模型,可将通用大模型 阅读全文
posted @ 2025-07-24 20:26 指尖下的世界 阅读(23) 评论(0) 推荐(0)