详细介绍：RAG系列：ChunkSize 和 ChunkOverlap 怎么设置？通过动态评估法探索业务场景的优秀组合

能够设置合适的ChunkSize和ChunkOverlap对于提升RAG系统的表现至关重要。合理的选择不仅能够保证信息的完整性和连贯性，还能奏效地管理计算资源和成本，最终实现高质量的文本生成和精准的信息检索。

在按特定字符对文档进行切分中，有两个比较重要的参数，那就是ChunkSize（块大小）和ChunkOverlap（块重叠）。ChunkSize是指将原始文档分割成块时每个块的长度（通常以token或字符为单位）。而ChunkOverlap则是相邻块之间重复内容的长度。

这两个参数的设置是否合理往往会比较大影响RAG环境的表现。

较大的ChunkSize：有利于保持上下文完整性和语义连贯，提高模型理解复杂内容的能力，减少块数量以降低重复处理开销，但是会增加内存和计算资源消耗，可能引入冗余信息影响检索效率和导致 LLM 产生幻觉；
容易造成上下文断裂，影响 LLM 对整体语义的理解，需依赖更大的 overlap 来弥补信息缺失，同时生成更多块增加总体计算负担；就是较小的Chunk Size：有利于提升处理速度和系统响应能力，适用于实时场景和内容变化较快的文档，更易聚焦局部信息，但
较大的ChunkOverlap：有利于增强上下文连贯性，降低对分块位置的敏感性，但会导致内容冗余，增加计算和存储成本，还可能引入不相关噪声干扰模型判断；
容易造成信息断层，查询关键词可能分布在不同块中导致召回失败，且对分块位置更为敏感，影响稳定性。就是较小的ChunkOverlap：有利于提升处理效率，减少重复内容带来的资源浪费，使每个块更独立，利于提高检索相关性，但

因此，能够设置合适的ChunkSize和ChunkOverlap对于提升RAG环境的表现至关重要。合理的选择不仅能够保证信息的完整性和连贯性，还能有效地管理计算资源和成本，最终实现高质量的文本生成和精准的信息检索。

本文完整代码地址[1]：https://github.com/laixiangran/ai-learn-python/blob/main/RAG/examples/07\_chunkSize\_chunkOverlap.py

在按特定字符切分方法中，这两个值主要靠经验法和动态评估法来确定，因本人能接触到的行业文档有限，因此无法通过经验给出ChunkSize和ChunkOverlap的最佳组合，如果大家有各自行业文档特点的经验值，能够在留言区分享，一起交流和学习。

本文将通过预设多个ChunkSize和ChunkOverlap组合来动态评估，找到切分本系列文章的测试文档《2024少儿编程教育行业发展趋势报告》的最优的ChunkSize和ChunkOverlap组合。

上下文召回率与Chunksize、ChunkOverlap热力图

a.ChunkSize较小时，上下文召回率较低，随着ChunkSize增大，上下文召回率会有明显提升，在中等ChunkSize（如 512 - 896）时平均表现最好，ChunkSize再增大则上下文召回率有下降的趋势；

b.在ChunkSize相同情况下，ChunkOverlap增大通常会提升上下文召回率，尤其在中等ChunkSize（如 512 - 896）时更明显。

上下文相关性与ChunkSize、ChunkOverlap热力图

a.ChunkSize较小时，上下文相关性也有较高的水平，随着ChunkSize增大，上下文相关性也有提升，在中等ChunkSize（如 512 - 896）时平均表现最好，ChunkSize再增大则上下文相关性有下降的趋势；

b.ChunkOverlap增大时上下文相关性有一定提升，但提升幅度不如上下文召回率明显。

答案正确性与ChunkSize、ChunkOverlap热力图

a.ChunkSize较小时，答案正确性较低，随着ChunkSize增大，答案正确性会有明显提升，在中等ChunkSize（如 512 - 896）时平均表现最好，ChunkSize再增大则答案正确性有下降的趋势；

b.在ChunkSize相同情况下，ChunkOverlap增大通常会提升答案正确性，尤其在中等ChunkSize（如 512 - 896）时更明显。