所花时间(包括上课) 约1小时 代码量(行) 40行(实现模型调用缓存机制、重复请求快速返回) 博客量(篇) 1篇 了解到的知识点 1. 学习了大语言模型资源整合中的缓存策略,减少重复推理开销;2. 掌握了基于请求内容的缓存键设计思路;3. 对系统性能优化有了初步实践,但缓存淘汰策略还没完全学明白。