摘要: 1. What is function call function call是OpenAI提出的 让大语言模型调用外部函数/工具的能力。大模型经过微调之后,具备了根据用户Query自主判断什么时候应该调用外部工具(函数)并生成执行相关操作所需要的参数的能力。这是大模型ReAct能力的核心。 2. f 阅读全文
posted @ 2025-06-03 17:45 橘子葡萄火龙果 阅读(108) 评论(0) 推荐(0)
摘要: 1. 环境配置(NVIDIA显卡为例) 1.1 机器上需要安装的各组件 1)显卡驱动Driver:显卡硬件对外的交互媒介,作用类似于CPU的kernel核。 2)cuda Toolkit:cuda Toolkit也常被叫做 cuda。作用是:封装了显卡Driver的调用逻辑,提供更高一层的对外调用接 阅读全文
posted @ 2025-06-03 17:44 橘子葡萄火龙果 阅读(491) 评论(0) 推荐(0)
摘要: 1.Query在文档库中的检索 对于复杂的搜索任务,例如问答检索,使用“检索与重排序”可以显著提升搜索效果。对于给定的query,首先在检索系统中初步检索出多个和query相关性较强的chunk块,然后将这多个chunk块再经过重排序算法进行精排。最终得到较为准确的召回结果。在检索问答领域,检索方法 阅读全文
posted @ 2025-06-03 17:34 橘子葡萄火龙果 阅读(32) 评论(0) 推荐(0)