2023年8月25日
使用 AutoGPTQ 和 transformers 让大语言模型更轻量化
摘要： 大语言模型在理解和生成人类水平的文字方面所展现出的非凡能力，正在许多领域带来应用上的革新。然而，在消费级硬件上训练和部署大语言模型的需求也变得越来越难以满足。 🤗 Hugging Face 的核心使命是 _让优秀的机器学习普惠化_ ，而这正包括了尽可能地让所有人都能够使用上大模型。本着 [与 bi 阅读全文
posted @ 2023-08-25 23:13 HuggingFace 阅读(1689) 评论(0) 推荐(0)