2023年10月1日
手把手教你在Ubuntu上部署中文LLAMA-2大模型
摘要： 一、前言 llama2作为目前最优秀的的开源大模型，相较于chatGPT，llama2占用的资源更少，推理过程更快，本文将借助llama.cpp工具在ubuntu(x86\ARM64）平台上搭建纯CPU运行的中文LLAMA2中文模型。 二、准备工作 1、一个Ubuntu环境（本教程基于Ubuntu2 阅读全文
posted @ 2023-10-01 17:16 umifly 阅读(5256) 评论(0) 推荐(0)