随笔分类 - Linux技巧
摘要：vllm部署多个模型，可以用nginx做反向代理，负载均衡。 配置如下： worker_processes auto; error_log /var/log/nginx/error.log warn; events { worker_connections 1024; } http { log_fo
阅读全文
摘要：1. 安装node.js：按照网站Node.js — Download Node.js®安装即可，选择nvm和npm。 2. 安装claude-code： npm install -g @anthropic-ai/claude-code 3. 服务端后台vllm启动Qwen3-Coder： vllm
阅读全文
摘要：1. 下载Qwen3-Coder模型： modelscope download --model Qwen/Qwen3-Coder-30B-A3B-Instruct --local_dir ./ 2. vllm带工具参数启动模型： vllm serve Qwen/Qwen3-Coder-30B-A3B
阅读全文
摘要：make install DESTDIR=/home/tc/work/
阅读全文
摘要：下面这两个命令我这里不起作用： colcon build --parallel-workers 6 colcon build --executor sequential 下面命令可以解决卡死问题： MAKEFLAGS=-j4 colcon build
阅读全文
摘要：在cmake构建完成后想要执行一些命令或脚本。 可以使用下面代码，这里对生成的bin做了strip操作，减少占用空间。 add_custom_command( TARGET ${PROJECT_NAME} POST_BUILD COMMAND strip exe.bin )
阅读全文
摘要：可以尝试执行下面命令： export HF_ENDPOINT=https://hf-mirror.com
阅读全文
摘要：安装完ollama后，执行： ollama run qwen2.5vl:7b 后下载qwen2.5vl模型。 安装后可以提供本地服务，配置外部服务需要做如下修改： 1. cd到/etc/systemd/system/目录下，修改ollama.service文件。 2. 增加下面两行配置： [Serv
阅读全文
摘要：1. 在 虾壳 - GitHub下载加速网站 GitHub Proxy加速器 这里获取加速网址。 2. 选择合适加速网址，执行下面命令： export OLLAMA_MIRROR="https://ghproxy.net/https://github.com/ollama/ollama/releas
阅读全文
摘要：可以尝试输入下面命令： pulseaudio -k && sudo alsa force-reload
阅读全文
摘要：有时需要向linux系统scp数据时报出Read-only file system。 可以用下面命令解决： mount -o remount rw /home
阅读全文
摘要：比如nvidia-smi命令会输出当前时刻显卡占用率，如果想动态监控，可以输入如下命令： watch -n 0.1 nvidia-smi
阅读全文
摘要：使用下面命令： ssh-copy-id root@192.168.0.1 登陆服务器，只需要输入一次密码，该命令会把本地公钥拷到服务器上，不需要重复输入密码了。
阅读全文
摘要：tensorflow和tensorboard都正常安装之后。 输入: tensorboard --logdir=results/logs 报出ValueError: Duplicate plugins for name projector错误。 原因可能是命令前没加sudo。 执行: sudo te
阅读全文
摘要：ubuntu系统gcc版本太高导致cuda编译报错，可以手动切换gcc版本： #切换gcc版本 sudo update-alternatives --config gcc #切换g++版本 sudo update-alternatives --config g++
阅读全文
摘要：有时候pip下载安装特别慢，可以考虑更换下载源： 清华源： pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple 阿里源： pip config set global.index-url https://mi
阅读全文
摘要：昨天一切正常，今天ubuntu启动突然卡住了，一直停在黑屏光标界面。 在网上看到原因可能和nvidia驱动有关。 输入nvidia-smi报出题目中的错误。 一般这种错误都是在刚安装nvidia驱动后第一次启动可能出现，见我这篇文章。 不过这次是突然出现的，不是安装驱动后出现的，所以不是安装nvid
阅读全文
摘要：下面这个命令： ps -e | grep gsd | awk '{print $1}' | xargs -I{} sh -c 'cat /proc/{}/status && echo " "' > status.txt 用于获取系统中所有进程名称中包含"gsd"的进程的状态，并将结果保存到名为"st
阅读全文
摘要：这里是ubuntu系统，其他系统我忘了 ls -l 出来有没有total字符了。 ls -l | grep -v total | wc -l
阅读全文
浙公网安备 33010602011771号