随笔分类 -  spark

Blogs about spark
摘要:监控配置 spark的监控主要分为Master、Worker、driver、executor监控。Master和Worker的监控在spark集群运行时即可监控,Driver和Excutor的监控需要针对某一个app来进行监控。 如果都要监控,需要根据以下步骤来配置 1. 修改$SPARK_HOME 阅读全文
posted @ 2018-11-28 18:22 枫子_dan 阅读(4811) 评论(2) 推荐(0)
摘要:Spark优化配置 1. 添加外包路径 1.1 1.2 spark submit时配置参数 2. spark submit时的参数配置 Kafka+Scala的参数配置 1. auto.offset.reset值含义解释 earliest 当各分区下有已提交的offset时,从提交的offset开始 阅读全文
posted @ 2018-11-28 18:04 枫子_dan 阅读(233) 评论(0) 推荐(0)