摘要: spark在项目中已经用了一段时间了,趁现在空闲,下个源码编译在IDEA里面阅读下,特此记录过程。 前提已经安装maven和git 1、上官网下载源码的包; 2、然后解压到一个文件夹 3、编译,编译的具体的信息可以看官网的介绍http://spark.apache.org/docs/latest/b 阅读全文
posted @ 2018-08-08 20:30 刘姥爷观园子 阅读(141) 评论(0) 推荐(0) 编辑
摘要: 关于这次总结还是要从一个bug说起。。。。。。。 场景描述:项目的基本处理流程为:从文件系统读取每隔一分钟上传的日志并由Spark Streaming进行计算消费,最后将结果写入InfluxDB中,然后在监控系统中进行展示,监控。这里的spark版本为2.2.1。 Bug:程序开发完成之后,每个ba 阅读全文
posted @ 2018-08-08 15:16 刘姥爷观园子 阅读(2744) 评论(4) 推荐(0) 编辑