带刺的坐椅

摘要： Tool Call（工具调用）是大模型的一种接口特性，允许开发者预定义函数并由模型判断是否需要调用。它通过JSON格式传递函数名和参数，由宿主应用执行后返回结果。该功能支持模型访问自定义代码，可能选择调用函数而非仅生成文本。执行结果会被合并到最终响应中，实现外部工具与数据的集成。 阅读全文

摘要： 本文介绍了如何通过ChatSession实现大语言模型的会话记忆功能。主要内容包括：1）使用ChatSession接口记录对话历史，作为提示语参数传递给模型；2）基于Web的会话记忆实现方案，利用Map存储会话；3）定制持久化方案，如JDBC或Redis实现；4) ChatSession接口设计，包含会话ID管理、消息增删查改、序列化等功能。文章提供了Java代码示例，展示了如何构建有状态的对话系统，解决大语言模型无状态服务的问题。 阅读全文