摘要:
一、手册说明 本文档为多次排错、参数迭代、容器权限/端口问题修复后的最终唯一稳定部署方案,适配: 硬件:NVIDIA GB10 架构 GPU 镜像:nvcr.io/nvidia/pytorch:25.08-py3 模型:Qwen3.5-35B-A3B-FP8(MoE+FP8) 部署框架:vLLM 高 阅读全文
posted @ 2026-07-15 00:34
张永全-PLM顾问
阅读(137)
评论(0)
推荐(0)
浙公网安备 33010602011771号