带刺的坐椅

摘要： 聊天拦截器(ChatInterceptor)是用于ChatModel的中间件，提供请求/响应处理功能。主要功能包括日志记录、安全检查、数据修改等。该接口定义了三种拦截方法：interceptCall处理同步请求、interceptStream处理流式请求、interceptTool处理工具调用。开发者可通过实现接口创建自定义拦截器，如示例中的ChatLogInterceptor用于记录请求日志。拦截器可通过构建器defaultInterceptorAdd方法全局添加，或通过options临时添加。 阅读全文

摘要： 本文介绍了toolsContext在工具调用时的应用方法，可通过ChatConfig或ChatOptions传递上下文参数（如鉴权信息）。文章提供了两种实现方式：1）通过defaultToolsContext全局配置；2）通过toolsContext单次请求配置。重点说明了参数传递规则：带@Param注解的参数由LLM生成，未注解参数通过上下文传递，且上下文参数会覆盖LLM生成的重名参数。示例代码展示了如何将用户信息作为附加参数传递给工具方法。 阅读全文

摘要： 本文介绍了三种工具描述形态：1）面向LLM的JSON Schema输入架构描述；2）面向MCP的注册描述，包含输入/输出架构；3）Java代码构建工具时声明输出架构的方式（FunctionToolDesc或@ToolMapping注解）。重点说明了如何通过returnType、方法返回类型或@Param注解定义输出结构，支持基础类型和实体类返回。三种形态分别适用于不同场景，共同构成完整的工具定义体系。 阅读全文

摘要： 本文介绍了工具描述规范，用于指导LLM理解工具功能。规范包含三部分：工具功能描述、输入参数架构描述和输出结果架构描述。通过Java注解方式实现，包括@ToolMapping标注工具功能，@Param标注参数和实体字段含义。文中提供了用户信息和订单信息的实体类示例，以及获取用户信息和提交订单的工具方法示例，展示了如何通过注解明确工具用途、参数意义和返回类型。 阅读全文

摘要： Tool call（函数调用）是大语言模型连接外部系统和数据的关键技术，通过定义可调用的函数工具实现实时数据查询或指令交互。开发方式包括注解声明、构建声明和接口实现三种，支持参数类型灵活定义。工具可通过returnDirect控制是否直接返回结果，无需模型二次加工。工具添加支持全局默认和请求级作用域，适用于天气查询、联网搜索等场景。核心接口包括FunctionTool、ToolProvider及相关注解，简化了工具开发流程。 阅读全文

摘要： Tool Call（工具调用）是大模型的一种接口特性，允许开发者预定义函数并由模型判断是否需要调用。它通过JSON格式传递函数名和参数，由宿主应用执行后返回结果。该功能支持模型访问自定义代码，可能选择调用函数而非仅生成文本。执行结果会被合并到最终响应中，实现外部工具与数据的集成。 阅读全文

摘要： 本文介绍了如何通过ChatSession实现大语言模型的会话记忆功能。主要内容包括：1）使用ChatSession接口记录对话历史，作为提示语参数传递给模型；2）基于Web的会话记忆实现方案，利用Map存储会话；3）定制持久化方案，如JDBC或Redis实现；4) ChatSession接口设计，包含会话ID管理、消息增删查改、序列化等功能。文章提供了Java代码示例，展示了如何构建有状态的对话系统，解决大语言模型无状态服务的问题。 阅读全文

摘要： 本文介绍了大模型对多媒体内容的理解能力，包括图像、音频和视频三种类型。针对每种媒体类型，提供了相应的接口使用方法：Image接口支持URL、Base64字符串或字节数组创建图片；Audio和Video接口支持通过URL创建音频和视频。示例代码展示了如何将多媒体内容与提示语一起提交给大模型进行处理，实现内容识别和理解功能。这种能力扩展了大模型在多媒体分析领域的应用场景。 阅读全文

摘要： Solon v3.7 引入 JSpecify 空安全注解，通过编译期静态分析预防 NPE 问题。核心特性包括默认非空规则（@NullMarked）、显式可空标注（@Nullable）以及对集合类型的精细控制。实际案例展示了如何通过注解明确方法参数和返回值的空值语义，同时介绍了项目配置步骤和 NullAway 集成方案。该方案将传统的运行时空指针检查提前到编译阶段，显著提升代码健壮性和可维护性。 阅读全文

摘要： 本文介绍了大语言模型提示语的消息类型及构建方式。主要内容包括：1）四种消息类型（用户消息、系统消息、助理消息、工具消息）的结构与属性；2）用户消息的三种构建方式：基本消息、格式化上下文和定制模板；3）消息增强技术，通过附加上下文实现RAG技术；4）多角色混合提示增强示例，展示如何组合不同消息类型实现多轮对话。文章提供了详细的Java代码示例，说明各类消息的具体应用场景和使用方法。 阅读全文