随笔分类 - spark
摘要:1.spark程序中的kafka的host也定要写成hostname的格式而不是写ip的格式: 例如:"bootstrap.servers" -> "os1:9092,os2:9092,os3:9092",而不是ip的格式,否则会报错 2.flume的spooldir的source问题: 如果使用s
阅读全文
摘要:这两天主要是做了中国移动的实时数据分析一个小项目(可以说是demo了),这里记录下来整个过程里面遇到的坑,首先安装好flume,kafka,spark(基于代码本地运行可以不安装),redis,zookeeper 主要是为了熟悉一下整个的一个spark-streaming的一个整个流程,还有就是了解
阅读全文

浙公网安备 33010602011771号