模型部署

26

vLLM , SGLang 

Xinference 企业级平台， LMDeploy 国产

27

AnythingLLM 作位前端 ---》 Ollama api  ---->模型

posted @ 2025-12-30 12:28  lavida2000  阅读(3)  评论(0)    收藏  举报