Fork me on GitHub
摘要: pytorch在有限的资源下部署大语言模型(以ChatGLM-6B为例) Part1知识准备 在PyTorch中加载预训练的模型时,通常的工作流程是这样的: my_model = ModelClass(...)state_dict =torch.load(checkpoint_file) 用简单的话 阅读全文
posted @ 2023-04-23 09:38 西西嘛呦 阅读(3378) 评论(0) 推荐(2) 编辑