摘要: 在使用官方发布的量化模型中发现无法进行张量并行 原因在于intermediate_size为29568,除以groupsize(128)后剩下的231无法被2或4或8整除,这在vllm会引发错误导致无法进行张量并行 最后的解决方案是将intermediate_size 修改成一个可以被128整除的数 阅读全文
posted @ 2025-04-25 10:56 zhiquanchi 阅读(488) 评论(0) 推荐(0)
摘要: apscheduler 在服务器上没有按照指定的时间运行定时任务 最近写了一段代码本来设置的是 每天凌晨 0点0分0秒 执行。结果发现没有执行,看日志也没有发现对应的执行记录。 最后发现是服务器的时区不是东八区,修改了服务器的时区之后一切都正常了。 阅读全文
posted @ 2024-12-02 23:31 zhiquanchi 阅读(43) 评论(0) 推荐(0)
摘要: 前几天的时候需要弄个数据表格。里面需要用计算两个字段出现次数。 所以我使用了开窗函数 点击查看代码 ```sql select concat_ws('~',if("${begin_dt}"='',current_date-8,'${begin_dt}'),if("${end_dt}"='',curr 阅读全文
posted @ 2022-11-07 16:09 zhiquanchi 阅读(1115) 评论(0) 推荐(0)