木子七

摘要： 大语言模型开发框架的价值 所有开发框架（SDK）的核心价值，都是降低开发、维护成本。 大语言模型开发框架的价值，是让开发者可以更方便地开发基于大语言模型的应用： 第三方能力抽象。比如 LLM、向量数据库、搜索接口等 常用工具、方案封装 底层实现封装。比如流式接口、超时重连、异步与并行等 使用Llam 阅读全文

摘要： 当我们完成了一个RAG系统的开发工作以后，我们还需要对RAG系统的性能进行评估，那如何来对RAG系统的性能进行评估呢？我们可以仔细分析一下RAG系统的产出成果，比如检索器组件它产出的是检索出来的相关文档即context, 而生成器组件它产出的是最终的答案即answer,除此之外还有我们最初的用户问题 阅读全文

摘要： Qwen-Agent是一个开发框架。充分利用基于通义千问模型（Qwen）的指令遵循、工具使用、规划、记忆能力。 Qwen-Agent支持的模型形式： DashScope服务提供的Qwen模型服务 支持通过OpenAI API方式接入开源的Qwen模型服务 Github：https://github. 阅读全文

摘要： RAG技术树 RAG研究的技术树主要涉及预训练（Pre-training）、微调（Fine-tuning）和推理（Inference）等阶段。 随着LLM的出现，RAG的研究最初侧重于利用LLMs强大的上下文学习能力，主要集中在推理阶段。 随后的研究进一步深入，逐渐与LLMs的微调阶段更加融合。研究 阅读全文

摘要： 数据准备阶段 常见问题 数据质量差： 企业大部分数据（尤其是非结构化数据）缺乏良好的数据治理，未经标记/评估的非结构化数据可能包含敏感、过时、矛盾或不正确的信息。 多模态信息： 提取、定义和理解文档中的不同内容元素，如标题、配色方案、图像和标签等存在挑战。 复杂的PDF提取： PDF是为人类阅读而设 阅读全文

摘要： LangChain 是一个开源的大语言模型（LLM）应用开发框架，核心是把大模型与外部数据、工具、工作流连接起来，解决大模型 “知识过时、无法联网、不会用工具” 的问题，让你快速搭建出上下文感知、能推理、可调用工具的 AI 应用,LangChain = LLM + 外部数据 + 工具 + 工作流编排 阅读全文

摘要： RAG概念和原理 RAG（Retrieval-Augmented Generation） 检索增强生成，是一种结合信息检索（Retrieval）和文本生成（Generation）的技术 RAG技术通过实时检索相关文档或信息，并将其作为上下文输入到生成模型中，从而提高生成结果的时效性和准确性。 RAG 阅读全文

摘要： 向量 = 把信息统一编码成可计算的数字，让机器能用数学理解语义、关系和相似度，越相近则越匹配 向量 = 信息的数字表示 相似度 = 数字之间的距离 AI 智能 = 大规模向量匹配 向量表征 在人工智能领域，向量表征（Vector Representation）是核心概念之一。通过将文本、图像、声音、 阅读全文

摘要： RAG、Agent、模型微调 = 现在大模型落地的「三大主流技术方向」 RAG（检索增强生成） 解决：知识不准、知识过时、幻觉 作用：给模型外挂知识库，让它 “查资料再回答”。 Agent（智能体） 解决：复杂任务、多步骤、要调用工具 作用：让模型会思考、会规划、会用工具。 模型微调（Fine-tu 阅读全文

摘要： 基本使用 终端查看系统支持的shell解析器 cat /etc/shells 终端查看当前默认使用解析器，echo用于打印文本或者变量值 echo $SHELL 脚本名字使用.sh后缀(也可以使用其他自定义后缀，一般都是.sh) 脚本开头指定解析器-#! 后面指向解析器路径(如果不指定，则使用默认解 阅读全文