03 2025 档案

一步一步教你部署ktransformers，大内存单显卡用上Deepseek-R1
摘要：环境准备 硬件环境 CPU：intel四代至强及以上，AMD参考同时期产品 内存：800GB以上，内存性能越强越好，建议DDR5起步 显卡：Nvidia显卡，单卡显存至少24GB（用T4-16GB显卡实测会在加载模型过程中爆显存），nvidia compute capability至少8.0（CUD 阅读全文
posted @ 2025-03-22 13:51 hvker 阅读(1497) 评论(1) 推荐(1)