文章分类 -  hive

 
json字符串解析之get_json_object与json_tuple
摘要:一、get_json_object 函数的作用:用来解析json字符串的一个字段: select get_json_object(flist,'$.filtertype') as filtertype ,get_json_object(flist,'$.filtersubtype')as filte 阅读全文
posted @ 2020-12-02 10:37 FinnChan 阅读(2677) 评论(0) 推荐(0)
MAP JOIN
摘要:一、Hive Common Join 如果不指定MapJoin或者不符合MapJoin的条件,那么Hive解析器会将Join操作转换成Common Join,即:在Reduce阶段完成join.整个过程包含Map、Shuffle、Reduce阶段。 Map阶段 读取源表的数据,Map输出时候以Joi 阅读全文
posted @ 2020-06-06 18:59 FinnChan 阅读(1867) 评论(0) 推荐(0)
驱动引擎
摘要:(1) 解释器:解释器的作用是将 HiveSQL 语句转换为抽象语法树(AST) (2) 编译器:编译器是将语法树编译为逻辑执行计划 (3) 优化器:优化器是对逻辑执行计划进行优化 (4) 执行器:执行器是调用底层的运行框架执行逻辑执行计划 阅读全文
posted @ 2020-05-15 10:18 FinnChan 阅读(242) 评论(0) 推荐(0)
窗口函数
摘要:–CUME_DIST :小于等于当前值的行数/分组内总行数 查询语句 比如,统计小于等于当前薪水的人数,所占总人数的比例 select dept, userid, sal, cume_dist() over (order by sal) as rn1, cume_dist() over (parti 阅读全文
posted @ 2020-01-22 17:46 FinnChan 阅读(84) 评论(0) 推荐(0)
TRANSFORM 用法
摘要:Hive 的 TRANSFORM 关键字提供了在 SQL 中调用自写脚本的功能。适合实现 Hive 中没有的 功能又不想写 UDF 的情况 具体以一个实例讲解。 Json 数据: {"movie":"1193","rate":"5","timeStamp":"978300760","uid":"1" 阅读全文
posted @ 2020-01-21 17:08 FinnChan 阅读(631) 评论(0) 推荐(0)
jason数据解析
摘要:转载 https://www.cnblogs.com/qingyunzong/p/8746159.html 现有原始 json 数据(rating.json)如下 {"movie":"1193","rate":"5","timeStamp":"978300760","uid":"1"} {"movi 阅读全文
posted @ 2020-01-21 17:03 FinnChan 阅读(595) 评论(0) 推荐(0)