摘要: Paddle源码之内存管理技术 前言 在深度学习模型训练中,每次迭代过程中都涉及到Tensor的创建和销毁,伴随着的是内存的频繁 malloc和free操作,可能对模型训练带来不必要的 overhead。 在主流的深度学习框架中,会借助 chunk 机制的内存池管理技术来避免这一点。通过实事先统一申请不同 chunk size 的 阅读全文
posted @ 2020-12-08 21:22 Aurelius84 阅读(1308) 评论(0) 推荐(0)