2025年6月21日
[PaperReading] AWQ: ACTIVATION-AWARE WEIGHT QUANTIZATION FOR ON-DEVICE LLM COMPRESSION AND ACCELERATION
摘要： 目录AWQ: ACTIVATION-AWARE WEIGHT QUANTIZATION FOR ON-DEVICE LLM COMPRESSION AND ACCELERATIONTL;DRMethodStory为什么用weights quantized-only的方案？如何挑选import wei 阅读全文
posted @ 2025-06-21 17:17 fariver 阅读(158) 评论(0) 推荐(0)
[PaperReading] ZeRO Memory Optimizations Toward Training Trillion Parameter Models
摘要： 目录名称TL;DRMethodZeRO-DPZeRO-R背景优化策略小结Experiment效果可视化总结与思考相关链接 名称 link 时间：19.10 单位：microsoft 作者相关工作：https://i.cnblogs.com/posts/edit;postId=18916963 dee 阅读全文
posted @ 2025-06-21 14:36 fariver 阅读(31) 评论(0) 推荐(0)
vscode
摘要： 快捷键配置 workbench.view.explorer -> cmd + E workbench.action.previousEditor -> shift+ h workbench.action.nextEditor -> shift + l go to definition -> ctr+ 阅读全文
posted @ 2025-06-21 11:27 fariver 阅读(14) 评论(0) 推荐(0)