2025年4月17日

litserve 的多endpoint 处理

摘要： 默认litserve在处理的时候只支持一个endpoint 但很多时候我们可能需要配置多个，比如推理服务多个地址，或者同时希望基于litserve 添加一些其他endpoint 进行接口提供（配置以及信息维护的），目前来说是有方法进行配置管理上的多endpoinnt（通过litserve内部包装的f 阅读全文

posted @ 2025-04-17 08:00 荣锋亮 阅读(48) 评论(0) 推荐(0)

导航