2024年12月3日
AWQ: Activation-aware Weight Quantization for LLM Compression and Acceleration
摘要： 目录概AWQ代码 Lin J., Tang J., Tang H., Yang S., Chen W., Wang W., Xiao G., Dang X., Gan C. and Han S. AWQ: Activation-aware weight quantization for llm co 阅读全文
posted @ 2024-12-03 16:23 馒头and花卷 阅读(193) 评论(0) 推荐(0)