2026年8月1日
Qwen2.5-1.5B模型的LoRA微调-SmoothW8A6量化-vLLM推理部署-Http服务API-并发测试流程
摘要： 本文主要展示大模型微调量化的过程，不涉及调优 数据集构建 1、本文大模型微调目标是训练出一个能够高度抽取文本信息的大模型 2、本研究选取新闻简讯作为语料信息 3、样本的构造风格采用shareGPT，格式如下： {"meesage": [ {"role":system,"content":text}, 阅读全文
posted @ 2026-08-01 20:44 白氏可乐可乐 阅读(22) 评论(0) 推荐(0)