随笔分类 -  [Linux] / [Flume]

学习与复习使用
摘要:企业中的日志存放_1 企业中的日志存放_2 企业中常用架构 Flume多sink 阅读全文
posted @ 2016-11-24 12:40 eRrsr 阅读(741) 评论(0) 推荐(0)
摘要:在HDFS的文件默认生成文件大小1K,如何设置文件大小和数量 使用Flume是为了将最新的数据或文件上传到HDFS上,那如果遇到分区表该如何解决 Flume上传文件默认是以FlumeData开头,如何更改开头信息 企业中多台Flume如何解决磁盘IO问题 如何解决不同操作系统下Flume 阅读全文
posted @ 2016-11-24 12:24 eRrsr 阅读(1352) 评论(0) 推荐(0)
摘要:案例一: source:hive.log channel: memory sink: logger输出 案例二:source:hive.log channel: file sink: logger输出 案例三:source:hive.log channel: mem sink: hdfs 阅读全文
posted @ 2016-11-24 12:12 eRrsr 阅读(325) 评论(0) 推荐(0)
摘要:企业架构 概念: 三大功能 collecting(收集),aggregating(聚合),moving(传输) 特点: on streaming data flows(基于流式的数据) Flume-ng只有一个角色节点: agent的角色,agent有source、channel、sink组成 Fl 阅读全文
posted @ 2016-11-24 12:07 eRrsr 阅读(332) 评论(0) 推荐(0)