2026年3月9日
Jetson Orin Nano 刷机、Docker GPU 环境与大语言模型部署实践（Ollama / vLLM）
摘要： Jetson Orin Nano 虽然只有 8GB 内存，但仍然可以运行一些 7B 以下的大语言模型。虽然性能无法满足生产需求，但对于学习 LLM 推理原理、GPU推理框架、模型部署方式 非常有帮助。 本文记录 Jetson Orin Nano 从 刷机 → 环境配置 → Docker GPU → 阅读全文
posted @ 2026-03-09 01:40 ejiyuan 阅读(1240) 评论(1) 推荐(1)