03 2019 档案

摘要:基于micro-batch, spark2.3之后, 支持continues processing 基于spark SQL 如同在静态table上运行标准批查询一样表现流计算, spark 通过在一个 unbound input table 上运行增量查询来实现. unbound input tab 阅读全文
posted @ 2019-03-31 14:56 PigeonNoir 阅读(737) 评论(0) 推荐(0)
摘要:gc配置 hbase-env.sh hbase-site.xml zookeeper.session.timeout 用途:zookeeper超时时间 默认:3min 调整:调小:则提高master监控的灵敏度。调大:则会增加hbase在gc过程中或大量写时高压过程中,造成gc暂停,从而误判超时的 阅读全文
posted @ 2019-03-08 17:05 PigeonNoir 阅读(220) 评论(0) 推荐(0)
摘要:stream.map.input.ignoreKey 作用:是否忽略key,只传递值。 默认值:false 我的设置:按需要更改 stream.map.input.field.separator stream.reduce.input.field.separator 作用:分割输入键值的分隔符 默认 阅读全文
posted @ 2019-03-01 13:22 PigeonNoir 阅读(814) 评论(0) 推荐(0)