测试测试

摘要： 1. 为什么 4bit 训练会“拖累”采纳率？（信息瓶颈） “模型训练量化 4bit”，通常指的是 QLoRA（在 4bit 基座上挂载 LoRA 进行训练）。 压缩即损失：4bit 量化将原本 16bit 的权重硬生生压到 4bit。虽然 QLoRA 算法（NF4 量化）尽力保留了主要信息，但本质 阅读全文

摘要： 在云服务器上部署 WeKnora 后无法在本地查看 Swagger 文档 1. 检查服务运行模式 WeKnora 的 Swagger UI 默认只在开发模式 (debug) 下开启，而在生产模式 (release) 下会出于安全考虑被关闭。 检查当前模式：登录到你的云服务器，在 WeKnora 项目 阅读全文

摘要： 1k+ 小数据集 SFT + KTO 微调与评测完整攻略 基于 Qwen3.5-9B + RTX 4090D (24GB) 实战经验总结 一、项目概述 1.1 目标 使用 1,000+ 条 高质量训练数据，通过 SFT + KTO 两阶段微调，让模型学会从需求描述中生成结构化测试用例（JSON 格式 阅读全文

摘要： LoRA 微调 Qwen3.5-9B：四轮实战参数调优攻略 基于真实训练日志提炼的“决策树”式调参指南 一、四轮实验全景总览 轮次学习率Epochs数据量/份梯度裁剪Warmup最终 Loss最佳 LossToken Acc结论 R1 1e-4 1 #100 ❌ 0.05 1.38 1.22 67% 阅读全文

摘要： 一、什么是Agent？ 在LangChain生态中，Agent是连接大语言模型与外部工具的核心组件。 不同于传统LLM只能生成文本，Agent通过“感知-决策-执行”的闭环架构，让模型具备调用外部工具的能力。 用人话说就是： 以前你问AI一个问题，它只能动嘴（生成文字）。 现在你问AI一个问题，它可 阅读全文

摘要： 本文详细记录了在腾讯云 Ubuntu 服务器上从零部署 WeKnora 的完整过程，以及部署中遇到的各种问题与解决方案。 一、环境准备 项目要求 云服务器 至少 4核CPU、8GB内存、20GB存储 操作系统 Ubuntu 22.04 LTS（推荐） 网络 需能访问外网（拉取 Docker 镜像） 阅读全文

摘要： 在 AutoDL 云服务器上，使用LoRA（低成本微调）技术，让 Qwen3.5-9B 大语言模型学会“自我介绍”，知道自己叫“XX机器人”，并且听你的话。 第一步：算力租赁（AutoDL 省钱大法） 为什么选 AutoDL？新手友好！便宜、按小时计费、自带显卡。但显卡很贵，我们不要在配置环境时开着 阅读全文

摘要： 上回学会了提示词模板、输出解析器、链式调用和流式输出。 现在AI已经能听懂人话、按格式输出了。 但还有一个问题：每次问AI，它都像第一次见你一样，完全不记得之前聊过什么。 你说“我叫小明”，它记住了。你再问“我叫什么”，它说“你没有告诉我”。 这就很尴尬了。 能不能让AI拥有“记忆”，记住上下文呢？ 阅读全文

摘要： 提示词模板是个好东西 上回说到，已经搭好了第一个AI环境，让通义模型回答了“夏天吃什么水果”。 但那个写法有个问题：每次问AI问题，都要把完整的指令重新敲一遍。 能不能提前把“套路”定好，每次只换关键词？ 提示词模板（Prompt Template），就是干这个的。 一、什么是提示词模板？ Lang 阅读全文

摘要： 环境配置 一、创建一个新的虚拟环境 我使用的是Pycharm，创建新项目时直接配置，步骤可参考。 新建项目：启动 PyCharm，在欢迎界面点击 New Project；如果已经在项目中，则点击菜单栏 File -> New Project。 项目位置与类型：在弹出的窗口中，在 Location 处 阅读全文