摘要： 1.概述 在大模型应用中，工具调用常采用预定义的静态注册方式，导致每次请求都需向模型传递完整的工具描述，造成大量冗余Token消耗。尤其当工具集庞大时，这种开销显著增加推理成本并影响响应速度。此外，多数请求仅涉及少数相关工具，全局暴露所有工具信息效率低下。因此，亟需一种动态选择机制，根据用户输入语义 阅读全文

摘要： 1. 概述 我们在和大模型会话时，我们需要和大模型进行多次会话，在spring ai 中提供了记忆实现，但是只提供了 内存和 jdbc 的实现方式，而我们更希望使用redis 作为 记忆的存储实现。 当然我们可以自己实现spring ai 的接口，spring ai alibaba 直接提供了实现， 阅读全文

摘要： 1.概述 在 调用大模型的时候，大模型由于训练的时候，知识就固化下来了，如果需要一些业务系统的知识，这个时候可以使用工具调用，即我们在调用大模型的时候，传入工具信息，当大模型觉得有些事情需要执行工具，就会返回工具信息，spirng ai 实现将调用本地工具，将返回的信息丢给大模型生成。 Spring 阅读全文

摘要： 1.概述 本文介绍一下如何使用 postgres 作为向量数据库，首先我们需要安装 postgres 数据库，接下来安装 pgvector 扩展支持，关于安装之前有介绍，这里就不再介绍 2.实现步骤 2.1 增加依赖 <dependency> <groupId>org.springframework 阅读全文

摘要： 1：安装 PostgreSQL 1.更新系统包列表 sudo apt update 2.安装 PostgreSQL sudo apt install postgresql postgresql-contrib -y 3.启动并启用 PostgreSQL 服务 sudo systemctl start 阅读全文

摘要： 1. 概述 我们在使用代码加载系统工具类时，如下使用下面代码，如果我需要增加工具类时这个代码需要做修改，因此我希望当增加工具类时，能自动加载这些类。 @Bean public ToolCallbackProvider toolProvider(McpService mcpService) { ret 阅读全文

摘要： 1.概述 mcp 是什么，mcp 实际上是 model context protocol 的简称，意思是用一个标准协议，支持工具调用。 mcp ai 很火的概念，spring ai 已经支持了 mcp ，mcp 源于 工具调用，但是 我们在开发过程中会有一些 通用的方法，不需要反复来写，那么 mcp 阅读全文

摘要： 1.概述 嵌入式模型是将文本向量化，是向量搜索的首要条件。我们可以使用在线的向量模型，将数据发送给 模型厂家的 接口实现向量化，比如智谱清言就支持文本向量化。 如果 可以使用本地的词嵌入模型，那么可以减少到 服务的依赖，性能也更有保证，另外可以省费用。 我们以北京智源的 BAAI/bge-large 阅读全文

摘要： 1.概述 如果需要实现 RAG ，首先需要将数据进行分块向量化实现，下面就讲一下如何使用 milvus 实现向量化存储的过程。 2.实现过程 2.1 安装 milvus milvus 是一个向量高性能的向量数据库。 安装过程比较简单 我们使用 docker-compose 运行就可以了 wget h 阅读全文

摘要： 1.概述 Flink CDC 是一个用于实时数据和批处理数据的分布式数据集成工具。他可以监听数据库表的变化。实现将数据变化写到其他的数据源中。 我们可以使用java 实现自定义的数据写出。下面是实现细节。 2.实现代码 2.1 项目依赖 <dependencies> <dependency> <gr 阅读全文