03 2014 档案

Hive UDAF开发之同时计算最大值与最小值
摘要:卷首语前一篇文章hive UDAF开发入门和运行过程详解(转)里面讲过UDAF的开发过程,其中说到如果要深入理解UDAF的执行,可以看看求平均值的UDF的源码本人在看完源码后,也还是没能十分理解里面的内容,于是动手再自己开发一个新的函数,试图多实践中理解它函数功能介绍函数的功能比较蛋疼,我们都知道Hive中有几个常用的聚合函数:sum,max,min,avg现在要用一个函数来同时实现俩个不同的功能,对于同一个key,要求返回指定value集合中的最大值与最小值这里面涉及到一个难点,函数接收到的数据只有一个,但是要同时产生出俩个新的数据出来,且具备一定的逻辑关系语言描述这东西我不大懂,想了好久, 阅读全文

posted @ 2014-03-13 12:23 JueFan_C 阅读(3276) 评论(1) 推荐(0)

hive UDAF开发入门和运行过程详解(转)
摘要:介绍hive的用户自定义聚合函数(UDAF)是一个很好的功能,集成了先进的数据处理。hive有两种UDAF:简单和通用。顾名思义,简单的UDAF,写的相当简单的,但因为使用Java反射导致性能损失,而且有些特性不能使用,如可变长度参数列表。通用UDAF可以使用​​所有功能,但是UDAF就写的比较复杂,不直观。本文只介绍通用UDAF。UDAF是需要在hive的sql语句和group by联合使用,hive的group by对于每个分组,只能返回一条记录,这点和mysql不一样,切记。UDAF开发概览开发通用UDAF有两个步骤,第一个是编写resolver类,第二个是编写evaluator类。re 阅读全文

posted @ 2014-03-06 11:21 JueFan_C 阅读(1253) 评论(0) 推荐(0)

导航