2026年9月23日
一个 Deployment 就能跑 vLLM，为什么还需要 KServe？
摘要： 在 Kubernetes 上启动一个推理服务并不难。如果只有一个模型，vLLM + Deployment 确实够了。但服务多起来以后，模型从哪里加载、使用哪个 Runtime、GPU 怎么分配、服务怎么暴露，每个服务都要重复处理一遍，配置很快就会散落在一堆 YAML 里。KServe 解决的不是怎么 阅读全文
posted @ 2026-09-23 13:57 探索云原生 阅读(141) 评论(0) 推荐(1)