2025年2月25日

【AI Agent评估】2-Agent-as-a-Judge: 用智能体评估智能体

摘要: 近年来,智能体(Agentic Systems)技术迅速发展,被广泛应用于多阶段任务和复杂问题的求解。然而,目前的评估方法却未能有效跟上技术发展的步伐,存在明显局限性: 仅关注最终结果现有方法往往仅关注智能体完成任务的最终结果,而忽略了其在任务过程中每一步的表现。这种“黑箱式”评估缺乏对任务中间过程 阅读全文

posted @ 2025-02-25 23:01 ExplorerMan 阅读(406) 评论(0) 推荐(0)

vLLM源码之分离式架构

摘要: 1,背景 本文主要分析vLLM分离式架构原理。 关于大模型推理分离式架构,一直是今年讨论的一个热点,笔者之前针对该技术也做了一些总结。 手抓饼熊:大模型推理分离架构五虎上将301 赞同 · 16 评论文章 作为大模型推理最流行的框架之一,vLLM功能迭代非常的快。关于vLLM的一些个人理解,笔者之前 阅读全文

posted @ 2025-02-25 22:56 ExplorerMan 阅读(995) 评论(0) 推荐(0)

LLM在Reranker任务上的最佳实践?A simple experiment report(with code)

摘要: 引言: 在BERT时代,对于Reranker任务,我们使用encoder-only的BERT为基座,拼接query和doc输入到BERT中去,在使用CLS的向量通过一个MLP,得到得分来做Reranker任务。 在LLM出来之后,一个很自然的想法是,我们能否使用decoder-only的LLM来作为 阅读全文

posted @ 2025-02-25 22:49 ExplorerMan 阅读(161) 评论(0) 推荐(0)

企业级 RAG 全链路优化关键技术

摘要: 本文根据2024云栖大会实录整理而成,演讲信息如下: 演讲人: 邢少敏 | 阿里云智能集团高级技术专家 活动: 2024 云栖大会 - AI 搜索企业级 RAG 全链路优化关键技术 在2024云栖大会上,阿里云 AI 搜索研发负责人之一的邢少敏先生带领大家深入了解如何利用 RAG 技术优化决策支持、 阅读全文

posted @ 2025-02-25 22:32 ExplorerMan 阅读(399) 评论(0) 推荐(0)

to_json 与to_json_string区别

摘要: 在Hive中,to_json和to_json_string是用于将复杂数据类型(如结构体、数组、映射等)转换为JSON格式字符串的函数。它们的主要区别在于实现和使用场景上。以下是两者的对比和说明: to_json 功能:将Hive中的复杂数据类型(如struct、array、map等)转换为JSON 阅读全文

posted @ 2025-02-25 19:50 ExplorerMan 阅读(355) 评论(0) 推荐(0)

collect_list 和 collect_set 有什么区别?

摘要: collect_list 和 collect_set 是 Hive 中用于聚合数据的两个常用函数,它们的主要区别在于是否去除重复值以及结果的顺序性。以下是它们的详细对比: 1. 功能区别 collect_list: 功能:将指定列的所有值(包括重复值)收集到一个数组中。 特点:保留所有值,不进行去重 阅读全文

posted @ 2025-02-25 19:43 ExplorerMan 阅读(1520) 评论(0) 推荐(1)

named_struct和map函数区别

摘要: 在Hive中,named_struct和map函数都可以用来创建复杂的数据结构,但它们在功能和用途上有明显的区别。以下是两者的详细对比: 1. named_struct函数 功能:named_struct用于创建一个命名的结构体(struct),其中每个字段都有一个名称和值。 语法: sql复制 n 阅读全文

posted @ 2025-02-25 19:38 ExplorerMan 阅读(238) 评论(0) 推荐(0)

导航