Linux下安装Flume

摘要

flume是由cloudera软件公司产出的可分布式日志收集系统,后于2009年被捐赠了apache软件基金会,为hadoop相关组件之一。尤其近几年随着flume的不断被完善以及升级版本的逐一推出,特别是flume-ng;同时flume内部的各种组件不断丰富,用户在开发的过程中使用的便利性得到很大的改善,现已成为apache top项目之一。

apache Flume 是一个从可以收集例如日志,事件等数据资源,并将这些数量庞大的数据从各项数据资源中集中起来存储的工具/服务,或者数集中机制。flume具有高可用,分布式,配置工具,其设计的原理也是基于将数据流,如日志数据从各种网站服务器上汇集起来存储到HDFS,HBase等集中存储器中。

环境依赖

  • Java 8+

一、下载与解压kafka

1、下载

$ cd /data
$ wget https://mirrors.tuna.tsinghua.edu.cn/apache/flume/1.9.0/apache-flume-1.9.0-bin.tar.gz

2、解压到指定位置

$ tar -xzvf apache-flume-1.9.0-bin.tar.gz -C /usr/local

$ mv /usr/local/apache-flume-1.9.0-bin /usr/local/flume_1.9.0

$ cd /usr/local/flume_1.9.0

3、设置环境变量

vim /etc/profile

#添加如下内容
export FLUME_HOME=/usr/local/flume_1.9.0
export PATH=$FLUME_HOME/bin:$PATH

#激活环境变量
source /etc/profile

4、验证

$ flume-ng version
# 输出如下
Flume 1.9.0
Source code repository: https://git-wip-us.apache.org/repos/asf/flume.git
Revision: d4fcab4f501d41597bc616921329a4339f73585e
Compiled by fszabo on Mon Dec 17 20:45:25 CET 2018
From source with checksum 35db629a3bda49d23e9b3690c80737f9

二、配置文件

1、创建flume.conf

这个配置文件是用来声明flume的抽取源等相关信息,具体使用时可具体配置,比如要抽取mysql数据库的数据,甚至可以新增一个名为mysql-flume.conf的配置文件。

$ cd /usr/local/flume_1.9.0
$ cp conf/flume-conf.properties.template conf/flume.conf

2、配置flume-env.sh

$ cd /usr/local/flume_1.9.0
$ cp conf/flume-env.sh.template conf/flume-env.sh
$ vim conf/flume-env.sh

#配置如下内容,这是我的JAVA_HOME路径,请跟进你的情况自行配置
export JAVA_HOME=/usr/jdk-8

参考

[1]https://cwiki.apache.org/confluence/display/FLUME/Getting+Started

Top
收藏
关注
评论
posted @ 2021-03-01 12:50  JasonCeng  阅读(32)  评论(0编辑  收藏  举报