2025 年 4月 23 日随笔档案 - momingliu11

2025年4月23日

摘要： 1、下载RolmOCR模型文件 #pip3 install modelscope #下载RolmOCR模型 modelscope download --model reducto/RolmOCR --local_dir /data/llm/rolmocr --max-workers 2 #使用vll 阅读全文

posted @ 2025-04-23 16:59 momingliu11 阅读(524) 评论(0) 推荐(0)

CentOS7.9部署vLLM，运行DeepSeek大模型

摘要：前提：已成功安装Nvidia显卡驱动 1、安装openssl 1.1.1 mkdir /usr/local/openssl cd /softwares/openssl-1.1.1n ./config --prefix=/usr/local/openssl make && make install l 阅读全文

posted @ 2025-04-23 16:50 momingliu11 阅读(1166) 评论(0) 推荐(0)

CentOS7.9安装Nvidia显卡驱动

摘要： 1、安装依赖 #安装依赖，确保kernel-devel与内核版本一致 yum install pciutils libffi-devel xz-devel python-backports-lzma yum-utils git -y #查看内核版本、源码包版本，确保版本一致 wget https: 阅读全文

posted @ 2025-04-23 16:37 momingliu11 阅读(754) 评论(0) 推荐(0)

安装xformers

摘要：通过命令 “pip3 install xformers-0.0.28.post3-cp310-cp310-manylinux_2_28_x86_64.whl” 安装whl包，出现如下报错： ERROR: xformers-0.0.28.post3-cp310-cp310-manylinux_2_28 阅读全文

posted @ 2025-04-23 15:52 momingliu11 阅读(542) 评论(0) 推荐(0)