2025年7月3日
你应该懂的AI大模型（十二）之 QLoRA
摘要： 你应该懂的AI大模型（十二）之 QLoRA 一、显存和算力 1. 基本概念 显存 (Memory) 定义：GPU 用于临时存储数据的高速内存，类似于计算机的 RAM。 作用： 存储模型权重、中间激活值、梯度和优化器状态。 数据在显存与 GPU 核心之间快速传输以支持计算。 衡量单位：GB (如 8GB、24GB)。 算力 (Computati 阅读全文
posted @ 2025-07-03 23:05 BricheersZ 阅读(465) 评论(0) 推荐(0)