2017年8月17日

hive启动时 Terminal initialization failed; falling back to unsupported java.lang.IncompatibleClassChangeError: Found class jline.Terminal, but interface was expected

摘要: 错误提示信息如下 在hadoop/share/hadoop/yarn/lib下有jline-0.9.94.jar 这样一个jar包,为老版本,hive中的该jar包为新的,所以需要将hive下的jline jar包拷贝到hadoop下 将之前的版本备份 mv jline-0.9.94.jar jli 阅读全文

posted @ 2017-08-17 00:08 嘣嘣嚓 阅读(319) 评论(0) 推荐(0)

2017年8月16日

hive启动时报错 java.lang.IllegalArgumentException: java.net.URISyntaxException: Relative path in absolute URI: ${system:java.io.tmpdir%7D/$%7Bsystem:user.name%7D at org.apache.hadoop.fs.Path.initialize

摘要: 错误提示信息如下 解决方法,进入hive-site.xml文件中,对以下内容进行修改,把临时路径更换 保存退出,再次启动,就ok了。 阅读全文

posted @ 2017-08-16 23:58 嘣嘣嚓 阅读(2454) 评论(0) 推荐(0)

2017年8月14日

XShell 连接虚拟机中的服务器 失败 、连接中断(Connection closed by foreign host.)

摘要: 在使用XShell连接虚拟机中的服务器时,报以下错误并断开连接,之前连接还是挺稳定的,忽然就这样了 然后就在网上各种找,什么防火墙啊,什么连接次数啊间隔啊,各种试各种不行。 然后我进入到路由器管理页面,看到了本机的ip为192.168.1.102,过了一会ip又变成了192.168.1.111,竟然 阅读全文

posted @ 2017-08-14 22:08 嘣嘣嚓 阅读(3960) 评论(0) 推荐(1)

2017年8月10日

启动Hadoop时DFSZKFailoverController没有启动

摘要: 在启动Hadoop成功后,并没有报错信息,jps查看进程,发现DFSZKFailoverController没有启动成功,后来发现是因为防火墙的原因,关掉重试就OK了 阅读全文

posted @ 2017-08-10 23:10 嘣嘣嚓 阅读(1116) 评论(0) 推荐(0)

Hive split分割后获取最后一段

摘要: 如果只看解决方法,直接看最后。。。 今儿碰到了这么种情况,表中有一个字段,格式是这样的 是根据符号 '\' 隔开的,现在需要取每个的最后一段,先做个split,字段名称为TXTMD 此时获取到的是一个数组,如果字段为 a\b\c\d,那么得到的结果为 [a,b,c,d] 那么现在我们如何来拿到最后一 阅读全文

posted @ 2017-08-10 22:58 嘣嘣嚓 阅读(11380) 评论(0) 推荐(0)

2017年8月7日

Hadoop 运行jar包时 java.lang.ClassNotFoundException: Class com.zhen.mr.RunJob$HotMapper not found

摘要: 错误如下 错误出现之前还有警告提示,如下 提示说没有设置job jar 解决方法: 代码中给job对象set一下 然后再打包运行就ok了。 阅读全文

posted @ 2017-08-07 23:25 嘣嘣嚓 阅读(2221) 评论(0) 推荐(0)

2017年8月6日

Zookeeper简单配置

摘要: 1.配置zookeeper 解压tar包后,在conf目录下,有一个zoo_sample.cfg,拷贝一份并命名为zoo.cfg cp zoo_sample.cfg zoo.cfg 编辑修改数据路径,默认实在/tmp 下的,如果重启服务器,数据会丢失,所以放在opt下 dataDir=/opt/zo 阅读全文

posted @ 2017-08-06 15:02 嘣嘣嚓 阅读(216) 评论(0) 推荐(0)

Hadoop-HA配置详细步骤

摘要: 1. HA服务器配置 对hdfs做高可用 1.1服务器详情 服务器:centos7 Hadoop:2.6.5 Jdk:1.8 共四台服务器 192.168.1.111 node1 192.168.1.112 node2 192.168.1.113 node3 192.168.1.114 node4 阅读全文

posted @ 2017-08-06 14:43 嘣嘣嚓 阅读(1243) 评论(0) 推荐(0)

2017年8月5日

格式化namenode时 报错 No Route to Host from node1/192.168.1.111 to node3:8485 failed on socket timeout exception: java.net.NoRouteToHostException: No route to host

摘要: 报错内容如上,在格式化namenode时报错,系统为centos7 原因:关闭防火墙时用的service iptables stop 解决方法:使用命令 systemctl stop firewalld 来关闭防火墙 再次格式化namenode,成功。 阅读全文

posted @ 2017-08-05 20:29 嘣嘣嚓 阅读(1251) 评论(1) 推荐(1)

2017年7月28日

Hadoop 2.x 之 HA 简介

摘要: HA结构图 HA是用来解决单点故障问题 DN: DataNode,启动时会往所有的NameNode汇报 NN: NameNode(主 Active(一个) 备 Standby(可以有多个)) JournalNodes:JournalNodes就是用来存储元数据的,是一个集群,节点数量必须为奇数个。 阅读全文

posted @ 2017-07-28 00:01 嘣嘣嚓 阅读(311) 评论(0) 推荐(0)

导航