百里登风

导航

2017年6月9日

storm的代码实现

摘要: 先模拟产生一些数据 我把这些数据摘一部分下来 参考代码KafkaProducer.java 先在kafka创建topic 两个副本5个分区 可以看到topic创建成功 总结一下前面的流程 下面再新建一个maven项目stormpProject0521 依赖文件: 依赖文件pom.xml参考代码 参考 阅读全文

posted @ 2017-06-09 17:39 百里登峰 阅读(296) 评论(0) 推荐(0)

storm项目架构分析

摘要: storm是一条一条数据处理,spark是一批数据处理的,storm才是真正意义的实时数据处理。 1、fileBeat类似flume用来采集日志的,fileBeat是轻量级的,对性能消化不大,而flume比较消化性能。 2、fileBeat会实时监控前端机,然后把数据实时写到Kafka集群里面。 3 阅读全文

posted @ 2017-06-09 10:36 百里登峰 阅读(361) 评论(0) 推荐(0)

storm的优化以及雪崩问题

摘要: 下图来说明什么是雪崩现象: 当spout发送的速度非常快,而bolt的处理速度很慢,spout源源不断地向内存中发送tuple,这样下去迟早会把内存撑爆,这样就叫做雪崩现象! 怎么处理雪崩问题呢 第一个方法不能有很好的保障,第二种方法可能会导致spout的严重的数据延迟,所以实际在应该中是两个方法结 阅读全文

posted @ 2017-06-09 00:22 百里登峰 阅读(516) 评论(0) 推荐(0)