会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
快乐小王子
首页
新随笔
联系
订阅
管理
2025年1月31日
各种本地大模型各种参数对应详情表
摘要: 以下是针对 1.5B、7B、8B、14B、32B、70B、671B 参数规模的本地大模型硬件配置参考表,结合量化技术(4-bit/8-bit)和不同场景需求分类整理: 1. 1.5B 模型(约15亿参数) 配置项 最低配置 推荐配置 显存(GPU) 4GB(需4-bit量化) 8GB(可运行FP16
阅读全文
posted @ 2025-01-31 12:04 快乐小王子帅气哥哥
阅读(15678)
评论(4)
推荐(1)
公告
Loading