在Ubuntu 22.04 LTS下编译llama.cpp(基于OpenBLAS)
步骤如下:
a. 安装make、C++、pkg-config:
sudo apt install make g++ pkg-config
b. 安装openblas-lapack:
wget https://github.com/xianyi/OpenBLAS/releases/download/v0.3.27/OpenBLAS-0.3.27.tar.gz
tar zxvf OpenBLAS-0.3.27.tar.gz
sudo make && sudo make install
c. 安装llama.cpp:
git clone https://github.com/ggerganov/llama.cpp
make LLAMA_OPENBLAS=1
d. 测试安装是否成功
./main --version
version: 2797 (858f6b73)
built with cc (Ubuntu 11.4.0-1ubuntu1~22.04) 11.4.0 for x86_64-linux-gnu