摘要:HDFS权限问题Win下Eclipse提交hadoop程序出错:org.apache.hadoop.security.AccessControlException: Permission denied: user=mango, access=WRITE描述:在window下使用Eclipse进行ha...
阅读全文
摘要:我的hadoop启动后,各个节点都正常,但是无法查看hdfs目录,错误提示BadconnectiontoFS.commandaborted. 查了下网上的解决办法,主要是删除tmp下的所有文件,然后格式化就可以了。原文:http://www.tuicool.com/articles/J7R3mei问...
阅读全文
摘要:hadoop启动的时候,会出现以下警告提示:执行more start-all.sh查看该文件但/libexec下不存在hadoop-config.sh文件,所以会执行bin/hadoop-config.sh查看bin/hadoop-config.sh而在/etc/profile 中,hadoop_h...
阅读全文
摘要:shell操作命令:hdfs的路径,在core-site.xml中定义fs.default.namehdfs://master.hadoop:9000 master.hadoop namenode主机名用/ 代替当前绝对路径hadoop fs -ls / 查看hdfs的根目录下的内容hadoop ...
阅读全文
摘要:查看tasktracker的50060的地址无法正常查看,主要有两个原因,一个是在/tmp目录下有以前使用2.02版本留下的文件没有删除,二个是因为端口被占用了解决方法:一、删除/tmp目录下所有文件[root@localhost hadoop]# su -[root@localhost ~]# c...
阅读全文
摘要:HDFS的可靠性1、冗余副本策略 2、机架策略 3、心跳机制 4、安全模式5、校验和 6、回收站 7、元数据保护 8、快照机制1、冗余副本策略可以在hdfs-site.xml中设置复制因子指定副本数量所有数据块都有副本Datanode启动时,遍历本地文件系统,产生一份hdfs数据块...
阅读全文
摘要:一、 hdfs默认存储基本单位是64M的数据块,若一个文件小于64M,则该文件不会占用整个数据块。二、HDFS体系结构 1、元数据节点(Namenode) 主控制服务器,管理文件系统的命名空间,包括打开、关闭、重命名文件和目录。 NameNode将数据块映射到DataNode,...
阅读全文
摘要:Cygwin是一个用于在Windows上模拟Linux环境的软件,由于工作上的需要,我要使用它,至于为什么用它,我在这里不做过多的解释,本文的目的,旨在于解决Cygwin安装上的问题。原始的安装Cygwin的方法有两种(官方的方法):1.远程下载安装,需要访问网络。2.本地安装,前提是在本地要有安装文件,获取安装文件的方法有两种,一种就是通过远程下载下来,保存在本地,第二种就是订购其ISO光盘。显然,对于国内大多数用户来说,订购ISO光盘,不是上上之选,那只有考虑从网上下了。可是问题来了,虽然Cygwin的官网上提供了众多的镜像,但不知是国内的网络不行还是怎么回事,下载奇慢,好像回到了拨号时代
阅读全文
摘要:用ssh登录一个机器(换过ip地址),提示输入yes后,屏幕不断出现y,只有按ctrl + c结束错误是:The authenticity of host 192.168.0.xxx can't be established.以前和同事碰到过这个问题,解决了,没有记录,这次又碰到了不知道怎么处理,还好有QQ聊天记录,查找到一下,找到解决方案:执行ssh -o StrictHostKeyChecking=no 192.168.0.xxx 就OK网址是:http://blog.ossxp.com/2010/04/1026/记一下,防止又忘记了,又快到3点了,无数个不眠之夜啊。2011/10
阅读全文
摘要:1、首先在Vm中将网络设置为Host-only。2、在windows下,打开网络邻居,会见到如下界面,其中负责联网的是本地连接,Vm1是host-only连接,VM2是Nat连接方式,首先将VM1、2的IP地址获取设置为自动3、设置本地连接的属性为共享,并在下拉框中选择VM1.4、此时会提示将VM的ip地址设置为固定ip,选择“是”,记住这个Ip地址,虚拟机里要和这个IP在同一网段。5、此时windows下VM1变为如下设置,需要手动添加DNS。6、在VM中,进入linux后,将网络设置为如下情况,然后ifconfig eth0 down/up 就大功告成了。再补充一下,要是不需要虚拟机上网或
阅读全文
摘要:云计算技术:这里只是列出我所知道的,希望大家对云计算技术有所了解:一首先让大家明白什么是云端,所谓云端需要两层理解(1)服务不在本地,这一层可以理解为服务器(2)它和普通的服务器是不一样的,这些云端的服务器的资源是共享的,一旦一个服务器不能承受,将会把任务分配给其他机器。二、云技术与其他技术的区别:...
阅读全文
摘要:1.移动云计算的定义云计算的发展并不局限于PC,随着移动互联网的蓬勃发展,基于手机等移动终端的云计算服务已经出现。基于云计算的定义,移动云计算是指通过移动网络以按需、易扩展的方式获得所需的基础设施、平台、软件(或应用)等的一种IT资源或(信息)服务的交付与使用模式。移动云计算是云计算技术在移动互联网...
阅读全文
摘要:什么是云计算简介大家知道什么叫做云计算吗?事实上,目前并没有一个确定的定义。然而概括来讲,所谓的云计算,指的就是把你的软件和服务统一部署在数据中心,统一管理,从而实现高伸缩性。云计算拥有以下特点:· 虚拟化和自动化· 服务器,存储介质,网络等资源都可以随时替换· 所有的资源都由云端统一管...
阅读全文