随笔分类 -  kafka

 
SparkStreaming运行出现 java.lang.NoClassDefFoundError: org/apache/htrace/Trace 错误
摘要:1、简介 最近在摸索利用sparkstreaming从kafka中准实时的读取数据,并将在读取的过程中,可以做一个简单的分析,最后将分析结果写入hbase中。 2、出现的问题 (1)将从kafka中读取数据的程序打包到服务器上运行,发现需要用kafka相关的包,因此采用assembly的方法打包即可 阅读全文
posted @ 2016-01-30 11:56 ljy2013 阅读(4885) 评论(0) 推荐(0)
Kafka的安装和部署及测试
摘要:1、简介 大数据分析处理平台包括数据的接入,数据的存储,数据的处理,以及后面的展示或者应用。今天我们连说一下数据的接入,数据的接入目前比较普遍的是采用kafka将前面的数据通过消息的方式,以数据流的形式将数据接入到大数据存储平台。 下面主要介绍一下kafka的安装和部署的过程。由于公司采用的是c... 阅读全文
posted @ 2016-01-26 13:16 ljy2013 阅读(2478) 评论(2) 推荐(0)