2026年1月23日
还有比ollama更傻瓜式的大模型本地部署方式吗 ？
摘要： LLM的狂风已经吹了几年， 所有人都耳濡目染的会飚上几句行话/名词。切好你自己有台4070的机器，恰好你有时间倒腾， 那就让我们回顾一遍名词，验证狂风吹过的技术车辙。 恰好最近有台4070(12g显存)机器，于是尝试使用ollama部署大模型。 RTX 4070 擅长训练中小型模型；凭借其 184 阅读全文
posted @ 2026-01-23 09:08 码甲哥不卷 阅读(486) 评论(1) 推荐(1)