Storm集群的安装与测试

首先安装zookeeper集群,然后安装storm集群。

我使用的是centos 32bit的三台虚拟机.

MachineName

ip

namenode

192.168.99.110

datanode01

192.168.99.111

datanode02

192.168.99.112

首先配置好ssh,可以无密码互访。

安装好jdk,我本机安装的是1.7.

安装好python.机器自带2.6.6.

安装zookeeper的时候,下载文件,解压,在

/etc/profile 中设置环境变量。

修改zoo.cfg,生成myid

需要注意一点的时,我在测试zookeeper集群的时候,

我们需要分别启动每个结点的zookeeper,

我开始以为是hadoop集群一样,在namenode上启动一下就好了。

zookeeper是去中心化的设计,不一样的。

以下是截图和说明。

   

   

   

   

   

   

下载并解压storm文件

http://apache.dataguru.cn/storm/apache-storm-0.9.5/

http://apache.dataguru.cn/storm/apache-storm-0.9.5/apache-storm-0.9.5.tar.gz

tar xvf apache-storm-0.9.5.tar.gz

mv apache-storm-0.9.5 /app/storm095

设置环境变量

cd /app/storm095
 echo "export STORM_HOME=$(pwd)" >>~/.bashrc
 echo 'export PATH=$PATH:$STORM_HOME/bin' >>~/.bashrc
 source ~/.bashrc 

Storm 配置文件storm.yaml,一定要注意其格式(冒号后面有空格),否则序列化会失败,造成启动失败。

使用的启动命令:

Bin/storm nimbus &

Bin/storm ui &

Bin/storm logviewer &

Bin/storm supervisor &

   

   

   

以上是zookeeper集群的成功运行截图。

下面是storm的安装与例子执行的情况。

默认的Web服务端口号是8080.  输入 nimbus运行所在机器的ip:8080查看集群的状态和作业情况。

   cat README.markdown

仔细阅读这里面,有如何进行简单的测试的命令,我执行了:

mvn clean install -DskipTests=true

mvn compile exec:java -Dstorm.topology=storm.starter.WordCountTopology

还有更多的指示,可以进行练习。

posted on 2015-01-25 18:41  tneduts  阅读(614)  评论(0编辑  收藏  举报

导航