最近在写文章，想补上去年RAG（Retrieval-Augmented Generation）遗留的一些坑，希望能分享一些RAG的技巧帮到大家。 还是那句老话： 构建一个大模型的原型很容易，但把它变成一个能真正投入生产的产品却很难。 这篇文章适合那些在过去一个月里刚刚构建了第一个LLM（大语言模型） ...

检索增强生成 (RAG) 项目 项目链接：https://github.com/bRAGAI/bRAG-langchain/tree/main bRAGAI 的官方平台即将上线。加入等待列表，成为早期使用者之一！ 本仓库包含了对检索增强生成 (RAG) 在各种应用中的全面探索。 每个笔记本都提供了从 ...

回顾2023年RAG技术的发展，检索增强生成（Retrieval-Augmented Generation，RAG）技术彻底改变了人工智能模型的工作方式，它将生成式人工智能的优势与检索现实世界文档的精确性相结合。通过从外部来源提取相关数据，RAG使得人工智能能够生成更准确且上下文更合适的答案。 随着 ...

0 前言 大环境不好，很多程序员被优化，被逼转型传统行业，但： 不同级别的人，咋融入传统行业？ 转型传统行业的同学会经历哪 3 个经典阶段？ 入局后的“坑” 1 不同阶层，咋转型传统行业？ 1.1 高层 总监及总监以上的 VP、C*O 等。最重要的是想尽一切办法找到价值，同时带领团队做出有价值的事： ...

背景软件即服务应用（SaaS）的角色，不是作为企业运营的中心，而是作为由AI代理驱动的生态系统中的次要参与者这些业务逻辑将全部转移到这些 AI Agent 上，而这些 Agent 将是多仓库的 CRUD，它们不会区分后端是什么。它们将会更新多个数据库，而所有的逻辑将集中在 AI 层。一旦 AI 层成 ...

论文地址：https://arxiv.org/pdf/2403.05313 Github地址：https://github.com/CraftJarvis/RAT 想象一下，一个人工智能助手可以像莎士比亚一样写作，像专家一样推理。这听起来很了不起，对吧？但是，如果这个助手有时难以确保事实准确性，依赖 ...

提示词Create a mind map that visually organizes the key points from this book. The mind map should cover the major themes and concepts discussed in the b ...

这一章我们先结合demo看下开源和闭源对结构化输出的支持，随后会介绍Constrained Decoding和Format Restricting Instructions 两种结构化输出约束方案，最后会给出结构化输出对比自然语言输出的一些观点。 ...

使用Cursor + Qwen2.5 大模型 零经验研发微信小程序：自由构建个性化节拍器应用实战" description = "本文介绍了如何利用Cursor工具结合Qwen2.5大模型快速开发一款个性化的微信小程序——老牛同学节拍器。通过详细的步骤，我们展示了从零开始创建一个功能完备的小程序所需... ...

0 前言 单元化架构通过减少故障影响范围来增强系统的弹性。 单元化架构是对于那些无法接受停机或可能对最终用户产生负面影响的系统的良好选择。 单元化架构可能很复杂，有一些最佳实践可以遵循，以提高成功的机会。 在推出单元化架构或将现有的云原生/微服务架构改造/转变为单元化架构时，有一些实际步骤需要考虑。 ...

0 前言 我有个朋友说他们国企的系统从未性能调优，功能测试完就上线，线上也没性能问题，何必还做性能调优？ 本文搞清： 为什么要做性能调优？ 啥时开始做？ 做性能调优是不是有标准？ 1 为啥做性能调优？ 有些性能问题是慢慢产生，到了时间就自爆 更多性能问题是由访问量波动导致，如活动或公司产品用户量上升 ...

实现目标和考虑因素 部署一个支持多用户同时使用、多模型运行的离线局域网大模型服务器 需要考虑以下几个关键因素： 大模型的加载和管理。使用一个基础大模型，根据实战需要创建多个专用模型，模型管理方便可靠。 并发用户和请求管理。设置管理员、用户角色，用户管理方便可靠，支持多名用户同时在线操作。 多模型同时 ...

1 关键要点 尽管数据显示 Java 17 是最常用 JDK，但其用户占比并未超过半数。根据 New Relic 2024 Java 生态系统状态报告，Java 17、11 和 8 的用户比例分别为 35%、33% 和 29%。 New Relic 数据中所谓“快速采用”指 Java 21 的采用率 ...

1 前后端开发模式的演变 jQuery时对大部分Web项目，前端不能控制路由，要依赖后端项目的路由系统。通常，前端项目也部署在后端项目的模板里，项目执行示意图： jQuery前端都要学会在后端模板如JSP里写代码。此时，前端工程师无需了解路由。对每次的页面跳转，都由后端负责重新渲染模板。 前端依赖后 ...

以上两个方向相对正交分别从Verifier和Generator两个方去尝试解决Scalable Oversight的问题，今天再聊一个相对Hybrid的方向，通过Verifier和Generator相互博弈来同时提升双方实力。这里分别介绍Anthropic的辩论法，和OpenAI的博弈法 ...

0 前言 上文讲解了Jest框架对组件库测试，TypeScript和Jest都为代码质量和研发效率。之前实现Container和Button组件以渲染功能为主，可根据不同属性渲染不同样式去实现布局和不同格式的按钮。 本文的表单组件，除了要渲染页面组件，还支持很好页面交互，从Element3的表单组件 ...

在自然语言处理中，词语的顺序对句子的意义至关重要。然而，传统的自注意力机制无法区分词语的位置。本文深入浅出地介绍了**位置嵌入（Positional Embedding）**的概念及其在Transformer模型中的作用，解释了它如何帮助模型理解词语的顺序，从而提升文本处理的准确性。通过简单的例子和... ...

提示词您是系统架构师，结合以上需求描述与功能点与场景，请编写性能测试用例，按性能测试用例设计原则， 输出表格 性能测试用例设计原则 设计性能测试用例时应遵循一定的原则，以确保测试的覆盖率和有效性。以下是一些关键的设计原则： 1. 可复现性原则：测试用例应设计得足够详细，以确保在不同时间点运行时能够得 ...

0 前言 系统突然瘫痪，重启后，问题仍无规律重现。运维马上写个重启脚本，定时排队重启各服务，但“治标不治本”。 作为主力排查问题，通过各种 Linux 命令在线上环境查看性能指标，dump 日志文件，走查代码，最后定位问题，后面分析原因、制定解决方案、更新d版本等。这就是一次性能调优和解决技术问题思 ...

本文介绍向量检索服务如何通过控制台、SDK、API三种不同的方式更新向量。 控制台方式 登录向量检索服务控制台 在左侧导航栏单击 Cluster列表 ，选中需要检索向量的Collection，单击Collection 详情 。 在左侧二级导航栏，单击 向量更新 ，填写相应内容后，单击 确认 ，即可更 ...