摘要: Kubernetes + 容器化部署 vLLM官方docker镜像: vllm/vllm-openai 这是官方提供的 Docker 镜像,可以用来快速部署 vLLM 服务,便于容器化管理。 实战: helm chart 部署 本地集群: 使用 Helm 安装和配置 vLLM 在本地 Kuberne 阅读全文
posted @ 2025-04-12 23:20 AAA建材王师傅 阅读(603) 评论(0) 推荐(0)
摘要: https://zhuanlan.zhihu.com/p/689976933 uv是开发ruff的公司 Astral 前一段时间发布的高性能Python工具,用途是安装python包,以及解析包版本之间的依赖。它的最大特点是快,相比现有的的工具都能够快一大截。 阅读全文
posted @ 2025-04-12 17:51 AAA建材王师傅 阅读(21) 评论(0) 推荐(0)