模型的可解释性：部分依赖图PDP和个体条件期望图ICE

部分依赖图 (PDP) 和个体条件期望 (ICE) 图可用于可视化和分析训练目标与一组输入特征之间的交互关系。

部分依赖图（Partial Dependence Plot)

部分依赖图显示了目标函数（即我们的机器学习模型）和一组特征之间的依赖关系，并边缘化其他特征的值（也就是补充特征）。它们是通过将模型应用于一组数据、改变感兴趣特征的值同时保持补充特征的值不变可以分析模型输出来计算特征变量对模型预测结果影响的函数关系：例如近似线性关系、单调关系或者更复杂的关系。

个体条件期望图（Individual Conditional Expectation ）

虽然 PDP 擅长显示目标特征的平均效果，但它可能会模糊仅在某些样本上显示特征的关系影响。

所以个体的条件期望 (ICE) 图显示了目标函数和特征之间的依赖关系。与显示一组特征的平均效果的部分依赖图不同，ICE 图消除了非均匀效应的影响并分别可视化每个样本的预测对特征的依赖关系，每个样本一行。

代码示例

注：sklearn 0.24以后的版本也加入对这两个图进行绘制的功能，但是这里我们使用更好的shap库

完整文章：

https://www.overfit.cn/post/57737a1bb3dc4e9898cbef89a0929b81