一个小知识点-Hive行转列实现Pivot
前言
传统关系型数据库中，无论是Oracle（11g之后）还是SQLserver（2005之后），都自带了Pivot函数实现行转列功能，本文主要讲述在Hive中实现行转列的两种方式。
传统数据库方式
这种方式是借鉴在Oracle或者SQLserver在支持Pivot函数之前实现行转列的方式，实际上语法没有什么变化，只是换成了Hive。
1 with testtable( 2 select 1 id,'k1' key,123 value 3 union all 4 select 1,'k2' key,124 value 5 union all 6 select 2,'k1',234 value 7 ) 8 select id, 9 max(case when key='k1' then value else null end) k1, 10 max(case when key='k2' then value else null end) k2 11 from testtable 12 group by id
Map方式
这种方式的思路是把需要转列的字段及其值字段拼接成一个Hive上的key-value的map数据，具体Sql如下：
1 with testtable( 2 select 1 id,'k1' key,123 value 3 union all 4 select 1,'k2' key,124 value 5 union all 6 select 2,'k1',234 value 7 ) 8 select id,kv['k1'],kv['k2'] 9 from ( 10 select id,str_to_map(concat_ws(',', collect_set(concat(key, '-', value))),',','-') kv 11 from testtable 12 group by id)t
总结
两种方式都可以实现行转列的功能，传统的方式易于理解，但在key的取值比较多的时候，写起来会相当繁琐，map的方式相对要简便一些。但map的方式所有的数据都collect到一起了，对内存的要求会高一些，而传统的方式通过聚合函数直接reduce，可以边运行边求值。
