摘要: 以下是针对 1.5B、7B、8B、14B、32B、70B、671B 参数规模的本地大模型硬件配置参考表,结合量化技术(4-bit/8-bit)和不同场景需求分类整理: 1. 1.5B 模型(约15亿参数) 配置项 最低配置 推荐配置 显存(GPU) 4GB(需4-bit量化) 8GB(可运行FP16 阅读全文
posted @ 2025-01-31 12:04 快乐小王子帅气哥哥 阅读(15678) 评论(4) 推荐(1)

Loading