• 博客园logo
  • 会员
  • 周边
  • 新闻
  • 博问
  • 闪存
  • 众包
  • 赞助商
  • Chat2DB
    • 搜索
      所有博客
    • 搜索
      当前博客
  • 写随笔 我的博客 短消息 简洁模式
    用户头像
    我的博客 我的园子 账号设置 会员中心 简洁模式 ... 退出登录
    注册 登录

acueid

  • 博客园
  • 联系
  • 订阅
  • 管理

公告

View Post

verl进行强化学习过程中出现大量内存占用及其缓解方法

前几天在学习使用verl,在尝试对vlm进行grpo训练时发生了CPU OOM。查看内存占用情况,发现训练中内存占用很高并随训练线性增长,可能发生了内存泄漏。
image

查阅资料后设置了data.val_batch_size
image
降低了不少内存占用

posted on 2026-01-15 15:28  蛋白名利  阅读(0)  评论(0)    收藏  举报

刷新页面返回顶部
 
博客园  ©  2004-2026
浙公网安备 33010602011771号 浙ICP备2021040463号-3