摘要： 导读 在大型语言模型（LLM）推理中，KVCache 是提升效率的核心机制：通过缓存 Transformer 自注意力层的历史 Key-Value 对，避免重复计算，显著降低单次推理开销。然而，在“智能体式推理”（Agentic Inference）这一新兴范式下——模型需持续感知环境、进行多轮决策 阅读全文