Hadoop配置JobHistory
1.修改/usr/local/hadoop/etc/hadoop/yarn-site.xml,添加如下代码
<property>
<name>yarn.log-aggregation-enable</name>
<value>true</value>
</property>
<!-- 配置日志服务器的地址,work节点使用 -->
<property>
<name>yarn.log.server.url</name>
<value>http://master1:19888/jobhistory/logs</value>
</property>
<!-- 配置日志过期时间,单位秒 -->
<property>
<name>yarn.log-aggregation.retain-seconds</name>
<value>86400</value>
</property>
2.修改/usr/local/hadoop/etc/hadoop/mapred-site.xml,添加如下代码
<!--配置jobhistory的地址和web管理地址-->
<property>
<name>mapreduce.jobhistory.address</name>
<value>master1:10020</value>
</property>
<property>
<name>mapreduce.jobhistory.webapp.address</name>
<value>master1:19888</value>
</property>
3.将上面两文件修改同步到集群中的所有机器的/usr/local/hadoop/etc/hadoop
4.在集群中的任意一台机器机动jobhistory(当前只在master1上启动, 根据步骤2上的设置)
/usr/local/hadoop/sbin/mr-jobhistory-daemon.sh start historyserver
5.重启hadoop集群(/usr/local/hadoop/sbin/stop-all.sh, /usr/local/hadoop/sbin/start-all.sh)
6.启动完之后,就可以通过http://master1:19888/访问

浙公网安备 33010602011771号