2012年11月21日
（转）hadoop集群默认配置和常用配置
摘要： 获取默认配置配置hadoop，主要是配置core-site.xml,hdfs-site.xml,mapred-site.xml三个配置文件，默认下来，这些配置文件都是空的，所以很难知道这些配置文件有哪些配置可以生效，上网找的配置可能因为各个hadoop版本不同，导致无法生效。浏览更多的配置，有两个方法:1.选择相应版本的hadoop,下载解压后，搜索*.xml,找到core-default.xml,hdfs-default.xml,mapred-default.xml,这些就是默认配置,可以参考这些配置的说明和key，配置hadoop集群。2.浏览apache官网,三个配置文件链接如下: ht 阅读全文
posted @ 2012-11-21 17:15 ccmaotang 阅读(270) 评论(0) 推荐(0)
mapredue输入路径
摘要： FileInputFormat.addInputPath(Job job, Path path)用于设定hadoop的输入文件路径，path可以指定具体的文件，也可以指定文件目录，当指定文件目录时，hadoop会遍历该目录下的所有文件，但遍历不是递归的，即只遍历该目录当下的文件。如果该目录下含有目录会输出异常信息，此时reduce便不会执行，job便被视为failed，但在该子目录名称以“_”开头时，便不会输出异常，hadoop会自动忽略以“_”开头的文件夹。同理，在指定的为目录的情况下，如果有文件名以“_”开头的文件，hadoop也会将其忽略。 阅读全文
posted @ 2012-11-21 11:33 ccmaotang 阅读(336) 评论(0) 推荐(0)