摘要: 本文介绍了GenerateModel接口的使用方法,该接口通过组装HTTP POST请求实现AI模型调用,支持文本转图片、图片编辑、文本转音乐和文本转视频等多种生成任务。文章提供了四个Java代码示例,分别演示了不同场景下的异步生成实现,包括参数配置、请求发送和结果处理。由于多媒体生成通常耗时较长,各平台多采用异步方式返回结果,生成内容通常以URL形式提供。 阅读全文
posted @ 2025-12-08 09:08 带刺的坐椅 阅读(36) 评论(0) 推荐(0)
摘要: 本文介绍了两种使用GeneratePrompt接口的方法:快速方法和定制提示语结构体。快速方法通过键值对直接构建请求,适用于简单场景;定制方法通过定义结构体类实现更规范的参数管理。两种方法都演示了如何调用阿里百炼API将图片转换为法国绘本风格,包括设置API密钥、模型参数和异步处理选项,最终获取生成图片的URL。结构体方法通过注解和映射转换,提供了更好的代码可维护性。 阅读全文
posted @ 2025-12-06 17:56 带刺的坐椅 阅读(3) 评论(0) 推荐(0)
摘要: 本文介绍了生成模型(GenerateModel)与聊天模型的区别,重点讲解了GenerateModel的使用方法。主要内容包括:1) GenerateModel只能一次性生成内容,支持文本生成图片、视频等;2) 详细说明了生成模型的配置构建流程和使用示例;3) 介绍了生成选项的设置方法;4) 阐述了方言适配机制,支持多种模型接口,并提供了Ollama方言适配的代码示例。该模型是ImageModel的升级替代,功能更全面但使用方式类似。 阅读全文
posted @ 2025-12-06 09:37 带刺的坐椅 阅读(70) 评论(0) 推荐(0)
摘要: 聊天拦截器(ChatInterceptor)是用于ChatModel的中间件,提供请求/响应处理功能。主要功能包括日志记录、安全检查、数据修改等。该接口定义了三种拦截方法:interceptCall处理同步请求、interceptStream处理流式请求、interceptTool处理工具调用。开发者可通过实现接口创建自定义拦截器,如示例中的ChatLogInterceptor用于记录请求日志。拦截器可通过构建器defaultInterceptorAdd方法全局添加,或通过options临时添加。 阅读全文
posted @ 2025-12-06 09:35 带刺的坐椅 阅读(4) 评论(0) 推荐(0)
摘要: 本文介绍了toolsContext在工具调用时的应用方法,可通过ChatConfig或ChatOptions传递上下文参数(如鉴权信息)。文章提供了两种实现方式:1)通过defaultToolsContext全局配置;2)通过toolsContext单次请求配置。重点说明了参数传递规则:带@Param注解的参数由LLM生成,未注解参数通过上下文传递,且上下文参数会覆盖LLM生成的重名参数。示例代码展示了如何将用户信息作为附加参数传递给工具方法。 阅读全文
posted @ 2025-12-05 17:47 带刺的坐椅 阅读(4) 评论(0) 推荐(0)
摘要: 本文介绍了三种工具描述形态:1)面向LLM的JSON Schema输入架构描述;2)面向MCP的注册描述,包含输入/输出架构;3)Java代码构建工具时声明输出架构的方式(FunctionToolDesc或@ToolMapping注解)。重点说明了如何通过returnType、方法返回类型或@Param注解定义输出结构,支持基础类型和实体类返回。三种形态分别适用于不同场景,共同构成完整的工具定义体系。 阅读全文
posted @ 2025-12-05 09:08 带刺的坐椅 阅读(74) 评论(0) 推荐(0)
摘要: 本文介绍了工具描述规范,用于指导LLM理解工具功能。规范包含三部分:工具功能描述、输入参数架构描述和输出结果架构描述。通过Java注解方式实现,包括@ToolMapping标注工具功能,@Param标注参数和实体字段含义。文中提供了用户信息和订单信息的实体类示例,以及获取用户信息和提交订单的工具方法示例,展示了如何通过注解明确工具用途、参数意义和返回类型。 阅读全文
posted @ 2025-12-04 14:10 带刺的坐椅 阅读(20) 评论(0) 推荐(0)
摘要: Tool call(函数调用)是大语言模型连接外部系统和数据的关键技术,通过定义可调用的函数工具实现实时数据查询或指令交互。开发方式包括注解声明、构建声明和接口实现三种,支持参数类型灵活定义。工具可通过returnDirect控制是否直接返回结果,无需模型二次加工。工具添加支持全局默认和请求级作用域,适用于天气查询、联网搜索等场景。核心接口包括FunctionTool、ToolProvider及相关注解,简化了工具开发流程。 阅读全文
posted @ 2025-12-04 07:24 带刺的坐椅 阅读(66) 评论(0) 推荐(0)
摘要: Tool Call(工具调用)是大模型的一种接口特性,允许开发者预定义函数并由模型判断是否需要调用。它通过JSON格式传递函数名和参数,由宿主应用执行后返回结果。该功能支持模型访问自定义代码,可能选择调用函数而非仅生成文本。执行结果会被合并到最终响应中,实现外部工具与数据的集成。 阅读全文
posted @ 2025-12-03 17:01 带刺的坐椅 阅读(78) 评论(0) 推荐(0)
摘要: 本文介绍了如何通过ChatSession实现大语言模型的会话记忆功能。主要内容包括:1)使用ChatSession接口记录对话历史,作为提示语参数传递给模型;2)基于Web的会话记忆实现方案,利用Map存储会话;3)定制持久化方案,如JDBC或Redis实现;4) ChatSession接口设计,包含会话ID管理、消息增删查改、序列化等功能。文章提供了Java代码示例,展示了如何构建有状态的对话系统,解决大语言模型无状态服务的问题。 阅读全文
posted @ 2025-12-03 11:42 带刺的坐椅 阅读(19) 评论(0) 推荐(0)