咖啡猫

导航

随笔分类 -  Hadoop

HDFS权限问题
摘要:HDFS权限问题Win下Eclipse提交hadoop程序出错:org.apache.hadoop.security.AccessControlException: Permission denied: user=mango, access=WRITE描述:在window下使用Eclipse进行ha... 阅读全文

posted @ 2014-10-09 23:16 咖啡猫1292 阅读(317) 评论(0) 推荐(0)

hadoop创建两大错误:Bad connection to FS. command aborted. exception和Shutting down NameNod...
摘要:我的hadoop启动后,各个节点都正常,但是无法查看hdfs目录,错误提示BadconnectiontoFS.commandaborted. 查了下网上的解决办法,主要是删除tmp下的所有文件,然后格式化就可以了。原文:http://www.tuicool.com/articles/J7R3mei问... 阅读全文

posted @ 2014-10-09 15:07 咖啡猫1292 阅读(1100) 评论(0) 推荐(0)

去除hadoop启动时的警告
摘要:hadoop启动的时候,会出现以下警告提示:执行more start-all.sh查看该文件但/libexec下不存在hadoop-config.sh文件,所以会执行bin/hadoop-config.sh查看bin/hadoop-config.sh而在/etc/profile 中,hadoop_h... 阅读全文

posted @ 2014-09-25 15:03 咖啡猫1292 阅读(179) 评论(0) 推荐(0)

hadoop shell 操作命令
摘要:shell操作命令:hdfs的路径,在core-site.xml中定义fs.default.namehdfs://master.hadoop:9000 master.hadoop namenode主机名用/ 代替当前绝对路径hadoop fs -ls / 查看hdfs的根目录下的内容hadoop ... 阅读全文

posted @ 2014-09-22 15:53 咖啡猫1292 阅读(236) 评论(0) 推荐(0)

DataNode,NameNode,JobTracker,TaskTracker用jps查看无法启动解决办法
摘要:查看tasktracker的50060的地址无法正常查看,主要有两个原因,一个是在/tmp目录下有以前使用2.02版本留下的文件没有删除,二个是因为端口被占用了解决方法:一、删除/tmp目录下所有文件[root@localhost hadoop]# su -[root@localhost ~]# c... 阅读全文

posted @ 2014-08-20 15:35 咖啡猫1292 阅读(495) 评论(0) 推荐(0)

HDFS的可靠性
摘要:HDFS的可靠性1、冗余副本策略 2、机架策略 3、心跳机制 4、安全模式5、校验和 6、回收站 7、元数据保护 8、快照机制1、冗余副本策略可以在hdfs-site.xml中设置复制因子指定副本数量所有数据块都有副本Datanode启动时,遍历本地文件系统,产生一份hdfs数据块... 阅读全文

posted @ 2014-08-07 14:18 咖啡猫1292 阅读(601) 评论(0) 推荐(0)

HDFS
摘要:一、 hdfs默认存储基本单位是64M的数据块,若一个文件小于64M,则该文件不会占用整个数据块。二、HDFS体系结构 1、元数据节点(Namenode) 主控制服务器,管理文件系统的命名空间,包括打开、关闭、重命名文件和目录。 NameNode将数据块映射到DataNode,... 阅读全文

posted @ 2014-08-06 14:21 咖啡猫1292 阅读(536) 评论(0) 推荐(0)

Installing Cygwin and Starting the SSH Daemon
摘要:Cygwin sshd 阅读全文

posted @ 2014-03-06 21:14 咖啡猫1292 阅读(558) 评论(0) 推荐(0)

Cygwin下载,安装教程
摘要:Cygwin是一个用于在Windows上模拟Linux环境的软件,由于工作上的需要,我要使用它,至于为什么用它,我在这里不做过多的解释,本文的目的,旨在于解决Cygwin安装上的问题。原始的安装Cygwin的方法有两种(官方的方法):1.远程下载安装,需要访问网络。2.本地安装,前提是在本地要有安装文件,获取安装文件的方法有两种,一种就是通过远程下载下来,保存在本地,第二种就是订购其ISO光盘。显然,对于国内大多数用户来说,订购ISO光盘,不是上上之选,那只有考虑从网上下了。可是问题来了,虽然Cygwin的官网上提供了众多的镜像,但不知是国内的网络不行还是怎么回事,下载奇慢,好像回到了拨号时代 阅读全文

posted @ 2014-03-06 16:43 咖啡猫1292 阅读(1131) 评论(0) 推荐(0)

The authenticity of host 192.168.0.xxx can't be established.
摘要:用ssh登录一个机器(换过ip地址),提示输入yes后,屏幕不断出现y,只有按ctrl + c结束错误是:The authenticity of host 192.168.0.xxx can't be established.以前和同事碰到过这个问题,解决了,没有记录,这次又碰到了不知道怎么处理,还好有QQ聊天记录,查找到一下,找到解决方案:执行ssh -o StrictHostKeyChecking=no 192.168.0.xxx 就OK网址是:http://blog.ossxp.com/2010/04/1026/记一下,防止又忘记了,又快到3点了,无数个不眠之夜啊。2011/10 阅读全文

posted @ 2014-03-03 11:34 咖啡猫1292 阅读(814) 评论(0) 推荐(0)

vmware 下的linux的host only上网配置
摘要:1、首先在Vm中将网络设置为Host-only。2、在windows下,打开网络邻居,会见到如下界面,其中负责联网的是本地连接,Vm1是host-only连接,VM2是Nat连接方式,首先将VM1、2的IP地址获取设置为自动3、设置本地连接的属性为共享,并在下拉框中选择VM1.4、此时会提示将VM的ip地址设置为固定ip,选择“是”,记住这个Ip地址,虚拟机里要和这个IP在同一网段。5、此时windows下VM1变为如下设置,需要手动添加DNS。6、在VM中,进入linux后,将网络设置为如下情况,然后ifconfig eth0 down/up 就大功告成了。再补充一下,要是不需要虚拟机上网或 阅读全文

posted @ 2014-03-02 16:27 咖啡猫1292 阅读(342) 评论(0) 推荐(0)

云技术入门指导:什么是云计算技术,云技术用什么语言开发
摘要:云计算技术:这里只是列出我所知道的,希望大家对云计算技术有所了解:一首先让大家明白什么是云端,所谓云端需要两层理解(1)服务不在本地,这一层可以理解为服务器(2)它和普通的服务器是不一样的,这些云端的服务器的资源是共享的,一旦一个服务器不能承受,将会把任务分配给其他机器。二、云技术与其他技术的区别:... 阅读全文

posted @ 2014-02-25 16:40 咖啡猫1292 阅读(871) 评论(0) 推荐(0)

什么是移动云计算
摘要:1.移动云计算的定义云计算的发展并不局限于PC,随着移动互联网的蓬勃发展,基于手机等移动终端的云计算服务已经出现。基于云计算的定义,移动云计算是指通过移动网络以按需、易扩展的方式获得所需的基础设施、平台、软件(或应用)等的一种IT资源或(信息)服务的交付与使用模式。移动云计算是云计算技术在移动互联网... 阅读全文

posted @ 2014-02-25 16:31 咖啡猫1292 阅读(807) 评论(0) 推荐(0)

云计算是什么
摘要:什么是云计算简介大家知道什么叫做云计算吗?事实上,目前并没有一个确定的定义。然而概括来讲,所谓的云计算,指的就是把你的软件和服务统一部署在数据中心,统一管理,从而实现高伸缩性。云计算拥有以下特点:· 虚拟化和自动化· 服务器,存储介质,网络等资源都可以随时替换· 所有的资源都由云端统一管... 阅读全文

posted @ 2014-02-25 16:18 咖啡猫1292 阅读(230) 评论(0) 推荐(0)