所花时间(包括上课) 约1小时 代码量(行) 45行(添加模型状态检测、负载简单判断逻辑) 博客量(篇) 1篇 了解到的知识点 1. 掌握了对大语言模型服务状态进行心跳检测的基本方式,可判断模型是否可用;2. 了解了资源负载的基础指标,能够根据负载简单分配请求;3. 对高可用、容错机制有了概念,但具体实现方式还未完全理解。