摘要：
sglang python -m sglang.launch_server \ --model-path Qwen/Qwen2.5-0.5B \ --disable-cuda-graph \ --port 30000 阅读全文
posted @ 2025-12-21 10:21
贝隆
阅读(2)
评论(0)
推荐(0)
|
摘要：
sglang python -m sglang.launch_server \ --model-path Qwen/Qwen2.5-0.5B \ --disable-cuda-graph \ --port 30000 阅读全文
posted @ 2025-12-21 10:21
贝隆
阅读(2)
评论(0)
推荐(0)
摘要：
apt update sudo apt install ubuntu-drivers-common apt install nvidia-driver-550pip install uv uv venv --python=3.12 source .venv/bin/activate git clon 阅读全文
posted @ 2025-12-21 00:00
贝隆
阅读(2)
评论(0)
推荐(0)
|
浙公网安备 33010602011771号