会员
周边
新闻
博问
闪存
众包
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
zhiquanchi
博客园
首页
新随笔
联系
订阅
管理
2025年4月25日
vllm单机4卡4090 48g多卡分布式部署 qwen2.5vl72b的提示oom的解决方案
摘要: 在使用官方发布的量化模型中发现无法进行张量并行 原因在于intermediate_size为29568,除以groupsize(128)后剩下的231无法被2或4或8整除,这在vllm会引发错误导致无法进行张量并行 最后的解决方案是将intermediate_size 修改成一个可以被128整除的数
阅读全文
posted @ 2025-04-25 10:56 zhiquanchi
阅读(488)
评论(0)
推荐(0)
2024年12月2日
apscheduler 在服务器上没有按照指定的时间运行定时任务
摘要: apscheduler 在服务器上没有按照指定的时间运行定时任务 最近写了一段代码本来设置的是 每天凌晨 0点0分0秒 执行。结果发现没有执行,看日志也没有发现对应的执行记录。 最后发现是服务器的时区不是东八区,修改了服务器的时区之后一切都正常了。
阅读全文
posted @ 2024-12-02 23:31 zhiquanchi
阅读(43)
评论(0)
推荐(0)
2022年11月7日
SQL 开窗函数求和计算和去重
摘要: 前几天的时候需要弄个数据表格。里面需要用计算两个字段出现次数。 所以我使用了开窗函数 点击查看代码 ```sql select concat_ws('~',if("${begin_dt}"='',current_date-8,'${begin_dt}'),if("${end_dt}"='',curr
阅读全文
posted @ 2022-11-07 16:09 zhiquanchi
阅读(1115)
评论(0)
推荐(0)
公告