随笔分类 -  spark

摘要:1.spark程序中的kafka的host也定要写成hostname的格式而不是写ip的格式: 例如:"bootstrap.servers" -> "os1:9092,os2:9092,os3:9092",而不是ip的格式,否则会报错 2.flume的spooldir的source问题: 如果使用s 阅读全文
posted @ 2019-03-28 21:40 专业搬砖工 阅读(282) 评论(0) 推荐(0)
摘要:这两天主要是做了中国移动的实时数据分析一个小项目(可以说是demo了),这里记录下来整个过程里面遇到的坑,首先安装好flume,kafka,spark(基于代码本地运行可以不安装),redis,zookeeper 主要是为了熟悉一下整个的一个spark-streaming的一个整个流程,还有就是了解 阅读全文
posted @ 2019-03-25 20:14 专业搬砖工 阅读(1228) 评论(0) 推荐(0)