work hard work smart

专注于AI+Java后端开发。 不断总结,举一反三。
  博客园  :: 首页  :: 新随笔  :: 联系 :: 订阅 订阅  :: 管理

2026年10月6日

摘要: 微调的目的是让通用大模型适应特定领域。以下罗列6种主流参数高效微调(PEFT)技术,先解释“它是什么”,再告诉你“用在哪”。 1. LoRA(低秩适应) 定义:冻结原模型权重,在每一层插入两个小矩阵(低秩分解),只训练这两个小矩阵来模拟全参数更新的效果。举例:把Llama 3微调成医疗问诊助手。用5 阅读全文

posted @ 2026-10-06 11:06 work hard work smart 阅读(2) 评论(0) 推荐(0)

摘要: 环境前提 Docker Desktop 已安装,且支持 GPU 已拉取 LLaMA Factory 镜像:hiyouga/llamafactory:latest (参考上一篇文章LLaMA-Factory 全面指南:从入门到实战部署) 一、数据准备(NekoQA-10K) 数据集地址:AI-Mode 阅读全文

posted @ 2026-10-06 10:58 work hard work smart 阅读(2) 评论(0) 推荐(0)

摘要: 什么是LLaMA-Factory? LLaMA-Factory 是一个开源的大语言模型微调框架,由清华大学KEG实验室开发。它提供了一个简单易用的平台,让用户能够轻松地对各种大语言模型进行微调训练,无需深厚的深度学习背景知识。 该框架支持多种主流大模型架构,包括但不限于: LLaMA/LLaMA2/ 阅读全文

posted @ 2026-10-06 10:28 work hard work smart 阅读(2) 评论(0) 推荐(0)

摘要: 从原理到落地:一文读懂大模型微调 本文从大模型的底层原理,到 LoRA/QLoRA 的核心思想,再到用 LLaMA-Factory 动手微调、用 vLLM 部署上线的完整链路。 一、大模型到底在做什么? 抛开各种神化的说法,大语言模型本质上就是一个规模极其庞大的函数:输入一段文本,经过内部海量参数的 阅读全文

posted @ 2026-10-06 10:28 work hard work smart 阅读(2) 评论(0) 推荐(0)

2026年10月5日

摘要: 1、多智能体架构 1.Network(网络):每个智能体都可以与其他任何智能体进行通信。任何智能体都可以决定下一步调用哪个其他智能体。2.Supervisor(主管):包含一个主管智能体,每个智能体都与一个主管智能体进行通信。主管智能体决定下一步应该调用哪个智能体。(推荐)3.Supervisora 阅读全文

posted @ 2026-10-05 14:59 work hard work smart 阅读(8) 评论(0) 推荐(0)

摘要: LangGraph 子图 1、子图作为主图的单独的一个节点 """ 在LangGraph中,一个Graph除了可以单独使用,还可以作为一个Node,嵌入到一个Graph中。这种用法就称为子图。 通过子图,我们可以更好的重用Graph,构建更复杂的工作流。尤其在构建多Agent系统时非常有用。 在大型 阅读全文

posted @ 2026-10-05 14:32 work hard work smart 阅读(3) 评论(0) 推荐(0)

摘要: LangGraph Time-Travle 时间回溯 """ 要在LangGraph中使用时间旅行: (1)使用invoke或stream方法,以初始输入来运行图表。 (2)识别现有线程中的检查点:使用get_state_history方法检索特定thread_id的执行历史, 并找到所需的chec 阅读全文

posted @ 2026-10-05 12:22 work hard work smart 阅读(5) 评论(0) 推荐(0)

摘要: LangGraph 持久化存储-sqlite数据库 ''' SqlitePersistence.py 在底层,检查点功能由符合BaseCheckpointSaver接口的检查点对象提供支持。 LangGraph提供了多种检查点实现,所有这些实现都通过独立的、可安装的库来完成,数据库类型的有:  l 阅读全文

posted @ 2026-10-05 12:07 work hard work smart 阅读(2) 评论(0) 推荐(0)

摘要: LangGraph 持久化存储- 内存存储 (In-Memory) """ MemoryPersistence.py langgraph-checkpoint:检查点保存器(BaseCheckpointSaver) 的基础接口以及序列化/反序列化接口(SerializerProtocol)。 包含用 阅读全文

posted @ 2026-10-05 12:01 work hard work smart 阅读(3) 评论(0) 推荐(0)

摘要: LangGraph 节点重试策略 """ LangGraph 节点重试策略演示 默认重试策略:max_attempts=5,对Exception重试、对ValueError/TypeError等不重试,异常过滤列表完全相同; 自定义重试策略:max_attempts=5 + custom_retry 阅读全文

posted @ 2026-10-05 11:40 work hard work smart 阅读(3) 评论(0) 推荐(0)

摘要: 1、LangGraph 节点缓存 import time from typing_extensions import TypedDict from langgraph.graph import StateGraph from langgraph.cache.memory import InMemor 阅读全文

posted @ 2026-10-05 11:21 work hard work smart 阅读(2) 评论(0) 推荐(0)

摘要: LangGraph条件边 """ LangGraph 条件边 分支流程控制语句分支路由(Router → Weather / Chat) 使用langgraph构建了一个状态图,根据输入数值的奇偶性执行不同节点。 check_x接收并传递状态, is_even判断奇偶, handle_even和ha 阅读全文

posted @ 2026-10-05 10:47 work hard work smart 阅读(2) 评论(0) 推荐(0)

摘要: 什么是Tool: 工具/能力的封装 什么是Agent 1、Agent : 决策者 = 如何使用这些能力 2、Agent 是一个决策引擎,决定什么时候调用哪个Tool, 根据上下文决定下一步做什么,处理Tool的返回结果,并确定是否继续调用其它Tool。 3、Agent的核心是推理+行动(Reason 阅读全文

posted @ 2026-10-05 07:29 work hard work smart 阅读(2) 评论(0) 推荐(0)

2026年10月4日

摘要: LangChain是基于LangChain构建的,面向智能体多轮交互/状态持久化/分支并执行图结构的工作流框架 LangGraph = LangChain + 图 + 状态机 LangChian应用场景 多步复杂推理 长时间运行任务(数小时、数天) 需要人工(Human-in-the-Loop) 追 阅读全文

posted @ 2026-10-04 21:41 work hard work smart 阅读(4) 评论(0) 推荐(0)

摘要: 1、定义一个获取工具的调用 from dotenv import load_dotenv from langchain_core.tools import tool import json import os import httpx load_dotenv() @tool def get_weat 阅读全文

posted @ 2026-10-04 19:08 work hard work smart 阅读(4) 评论(0) 推荐(0)

摘要: 1、内存模式 RunnableWithMessageHistory """ 可持续记忆(RunnableWithMessageHistory) """ from dotenv import load_dotenv from langchain.chat_models import init_chat 阅读全文

posted @ 2026-10-04 17:45 work hard work smart 阅读(3) 评论(0) 推荐(0)

摘要: 什么是 LCEL - 全称:LangChain Expression Language- 定位:专门用于组合 Runnable 组件的声明式语法- 核心操作符:管道符 | 核心思想:使用管道操作符 | 将多个Runnable对象,像拼积木一样组合起来。 # 典型的 LCEL 链式写法chain = 阅读全文

posted @ 2026-10-04 15:50 work hard work smart 阅读(2) 评论(0) 推荐(0)

2026年10月3日

摘要: 1、同步invoke # 1.导入依赖 import os from dotenv import load_dotenv from langchain.chat_models import init_chat_model from langchain.messages import HumanMes 阅读全文

posted @ 2026-10-03 21:36 work hard work smart 阅读(2) 评论(0) 推荐(0)

摘要: 一、使用OpenAI方式接入 1、使用OpenAI # Please install OpenAI SDK first: `pip install openai` import os from dotenv import load_dotenv from openai import OpenAI l 阅读全文

posted @ 2026-10-03 19:53 work hard work smart 阅读(3) 评论(0) 推荐(0)

摘要: 1、LangChian 环境安装 想让当前虚拟环境以后默认走清华源,可先执行:pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple - 安装langchain- 安装langchain-openai- 安装o 阅读全文

posted @ 2026-10-03 16:13 work hard work smart 阅读(5) 评论(0) 推荐(0)