Hadoop集群最迅速的配置免密码登陆方法
摘要:1:多台机器互相免密登陆的思路(默认你的linux操作系统已经安装好ssh): 第一步:在各自的机器上面生成密钥: 在第1台机器上生产一对钥匙: ssh-keygen -t rsa 在第2台机器上生产一对钥匙: ssh-keygen -t rsa 在第3台机器上生产一对钥匙: ssh-keygen
阅读全文
posted @
2017-12-09 16:30
别先生
阅读(1399)
推荐(0)
java.lang.NullPointerException at java.lang.ProcessBuilder.start(Unknown Source) at org.apache.hadoop.util.Shell.runCommand(Shell.java:482)
摘要:1:问题出现的原因,部署好的hadoop-2.6.4进行window10操作hadoop api出现的错误,具体错误是我向hdfs上传文件,还好点,之前解决过,这里不叙述,这里说一下从hdfs下载文件出现的错误: 详细错误如下所示: 确实如很多网友说的:出现原因:缺少hadoop.dll或winut
阅读全文
posted @
2017-11-25 17:28
别先生
阅读(3700)
推荐(0)
17/11/24 05:08:44 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
摘要:2017-11-24 21:20:25 1:什么叫失望,什么叫绝望。总之是一脸懵逼的继续...... 之前部署的hadoop都是hadoop-2.4.1.tar.gz,这几天换成了hadoop-2.6.4.tar.gz,部署老生常谈,启动就不一样了,本来吧,也就是warn,不是error,启动hdf
阅读全文
posted @
2017-11-24 21:58
别先生
阅读(2370)
推荐(0)
org.apache.zookeeper.KeeperException$ConnectionLossException: KeeperErrorCode = ConnectionLoss for /eclipse20171118
摘要:1:如果有一天,你有幸看到了这个错误,也许你像我一样low,因为此时,你已经准备开发Zookeeper程序了,却还没有把Zookeeper的服务启动起来。 解决办法,启动你的Zookeeper。记得启动起来以后进行查看。 如果你的Zookeeper启动起来了,还报这个错误,那么就是关闭防火墙即可。
阅读全文
posted @
2017-11-18 17:13
别先生
阅读(5447)
推荐(0)
java.net.UnknownHostException: master
摘要:1:如果你报这个错误,第一反应应该是本地的host文件没有配置服务器名称和对应的ip地址,这个反应就对了。贴一下错误和解决方法: windows下开发大数据相关的应用程序,HBase部署在linux环境中,在运行调试时可能会出现无法找到主机,类似异常信息如上所贴:解决办法如下:在C:\WINDOWS
阅读全文
posted @
2017-11-18 17:09
别先生
阅读(7927)
推荐(0)
Give root password for maintenance(or type control -D to continue)
摘要:2017-09-30 18:12:08 1:错误如图,本来开机准备用一下虚拟机,就出现一个这,为啥记录一下呢,因为网上好多不是很靠谱。 原因可能是之前关闭虚拟机的时候不小心出现异常了: 2:解决办法: 个人根据自己的磁盘分区情况,进行修复即可; 2017-09-30 18:14:50
阅读全文
posted @
2017-11-17 18:16
别先生
阅读(2312)
推荐(0)
关于yum网络版仓库(本地yum仓库的安装配置,如果没网了,做一个局域网内的yum仓库)
摘要:2017-11-13 22:49:48 1:两种方式: a、每一台机器都配一个本地文件系统上的yum仓库 file:///packege/path/ b、在局域网内部配置一台节点(server-base)的本地文件系统yum仓库,然后将其发布到web服务器中,其他节点就可以通过http://serv
阅读全文
posted @
2017-11-13 23:55
别先生
阅读(2296)
推荐(0)
一脸懵逼学习keepalived(对Nginx进行热备)
摘要:1:Keepalived的官方网址:http://www.keepalived.org/ 2:Keepalived:可以实现高可靠; 高可靠的概念: HA(High Available), 高可用性集群,是保证业务连续性的有效解决方案,一般有两个或两个以上的节点,且分为活动节点及备用节点。 3:高可
阅读全文
posted @
2017-11-12 22:25
别先生
阅读(2204)
推荐(1)
一脸懵逼学习Nginx及其安装,Tomcat的安装
摘要:1:Nginx的相关概念知识: 1.1:反向代理: 反向代理(Reverse Proxy)方式是指以代理服务器来接受internet上的连接请求,然后将请求转发给内部网络上的服务器,并将从服务器上得到的结果返回给internet上请求连接的客户端,此时代理服务器对外就表现为一个服务器。 1.2:负载
阅读全文
posted @
2017-11-12 17:27
别先生
阅读(1154)
推荐(0)
一脸懵逼学习KafKa集群的安装搭建--(一种高吞吐量的分布式发布订阅消息系统)
摘要:1:KafKa的官方网址:http://kafka.apache.org/ 开发流程图,如: 2:KafKa的基础知识: 2.1:kafka是一个分布式的消息缓存系统。2.2:kafka集群中的服务器都叫做broker。2.3:kafka有两类客户端,一类叫producer(消息生产者),一类叫做c
阅读全文
posted @
2017-11-03 15:48
别先生
阅读(2776)
推荐(0)
一脸懵逼学习Storm的搭建--(一个开源的分布式实时计算系统)
摘要:Storm的官方网址:http://storm.apache.org/index.html 1:集群部署的基本流程(基本套路): 集群部署的流程:下载安装包、解压安装包、修改配置文件、分发安装包、启动集群; 1:安装一个zookeeper集群,之前已经部署过,这里省略,贴一下步骤; 安装配置zooe
阅读全文
posted @
2017-11-01 09:31
别先生
阅读(668)
推荐(1)
一脸懵逼学习Hive的使用以及常用语法(Hive语法即Hql语法)
摘要:Hive官网(HQL)语法手册(英文版):https://cwiki.apache.org/confluence/display/Hive/LanguageManual Hive的数据存储 1、Hive中所有的数据都存储在 HDFS 中,没有专门的数据存储格式(可支持Text,SequenceFil
阅读全文
posted @
2017-10-20 17:07
别先生
阅读(42989)
推荐(3)
一脸懵逼学习Hive的元数据库Mysql方式安装配置
摘要:1:要想学习Hive必须将Hadoop启动起来,因为Hive本身没有自己的数据管理功能,全是依赖外部系统,包括分析也是依赖MapReduce; 2:七个节点跑HA集群模式的: 第一步:必须先将Zookeeper启动起来(HA里面好多组件都依赖Zookeeper): 切换目录,启动Zookeeper(
阅读全文
posted @
2017-10-20 11:08
别先生
阅读(8537)
推荐(0)
一脸懵逼学习Hadoop分布式集群HA模式部署(七台机器跑集群)
摘要:1)集群规划:主机名 IP 安装的软件 运行的进程master 192.168.199.130 jdk、hadoop NameNode、DFSZKFailoverController(zkfc)slaver1 192.168.199.131 jdk、hadoop NameNode、DFSZKFail
阅读全文
posted @
2017-10-16 16:00
别先生
阅读(4957)
推荐(1)
一脸懵逼搭建Zookeeper分布式集群
摘要:1:首先将http://zookeeper.apache.org/ 下载好的zookeeper-3.4.5.tar.gz上传到三台虚拟机上,之前博客搭建好的(安装Zookeeper之前记得安装好你的jdk哦)。 2:然后对zookeeper-3.4.5.tar.gz进行解压缩操作: [hadoop@
阅读全文
posted @
2017-10-12 09:45
别先生
阅读(16484)
推荐(2)
一脸懵逼加从入门到绝望学习hadoop之Caused by: java.net.UnknownHostException: master报错
摘要:windows下开发hadoop应用程序,hadoop部署在linux环境中, 在运行调试时可能会出现无法找到主机,类似异常信息如下: java.net.UnknownHostException: unknown host: master 解决办法如下: 在C:\WINDOWS\system32\d
阅读全文
posted @
2017-09-11 14:39
别先生
阅读(1530)
推荐(0)
oracle安装过程中先决条件检查失败的解决办法
摘要:1:公司数据库开始用的mysql,因为公司做的是保密性项目,所以就在项目日志过多的时候项目有爆炸的迹象啊(3000千万数据,貌似mysql有点撑不住)。然后组长开始让我安装oracle,公司的内网也是醉了,打开oracle官网都打不开。最后还是组长下载好了传给我,让我安装,然而安装的过程中oracl
阅读全文
posted @
2017-09-04 11:36
别先生
阅读(1469)
推荐(0)
hadoop集群运行jps命令以后Datanode节点未启动的解决办法
摘要:出现该问题的原因:在第一次格式化dfs后,启动并使用了hadoop,后来又重新执行了格式化命令(hdfs namenode -format),这时namenode的clusterID会重新生成,而datanode的clusterID 保持不变。 1:其实网上已经有解决办法了,这里自己脑补一下,也可以
阅读全文
posted @
2017-09-01 15:26
别先生
阅读(4083)
推荐(0)
vmware安装centOs操作系统配置网络的一系列问题
摘要:2019-07-07纪要,如果选择NAT模式/NAT8模式的话,只能自己的物理主机和自己的虚拟机访问,别人的物理机不能访问你的虚拟机。 桥接模式的话,别人的物理机也可以访问你的虚拟机的呢。所以根据自己需求来进行玩耍。如果是小组测试,肯定要使用桥接模式的了,如果自己玩耍,使用NAT8最优了。 1:最近
阅读全文
posted @
2017-07-30 16:26
别先生
阅读(1483)
推荐(0)