摘要: hadoop中的配置属性非常多,这里只讨论关键属性,它们分散在3个文件中:core-site.xml、hdfs-site.xml、mapred-site.xml。1. core-site.xml<configuration> <property> <name>fs.default.name</name> <value>hdfs://Route:9000</value> <final>true</final> </property></configuration>运行HDFS需 阅读全文
posted @ 2013-03-08 15:27 醇酒醉影 阅读(1132) 评论(0) 推荐(0) 编辑
摘要: 1. hadoop日志目录默认存放在hadoop安装目录下的logs文件夹中,也可以通过hadoop-env.sh中的HADOOP_LOG_DIR变量来修改。一般建议修改默认值,使之独立于hadoop安装目录,这样便于以后的升级。hadoop日志文件的名称格式为“hadoop-用户名-守护进程名-本地主机名.log”。例如“hadoop-tianyc-namenode-Route.log”就是我的hadoop集群中的一个日志文件。其中“用户名”部分对应hadoop-env.sh文件中的HADOOP_IDENT_STRING变量,可以通过修改该变量来修改日志文件中的用户名信息。2. SSH设置h 阅读全文
posted @ 2013-03-08 11:56 醇酒醉影 阅读(1963) 评论(1) 推荐(0) 编辑
摘要: 1. 内存hadoop为各个守护进程(namenode,secondarynamenode,jobtracker,datanode,tasktracker)统一分配的内存在hadoop-env.sh中设置,参数为HADOOP_HEAPSIZE,默认为1000M。大部分情况下,这个统一设置的值可能并不适合。例如对于namenode节点,1000M的内存只能存储几百万个文件的数据块的引用。如果我想单独设置namenode的内存,可以通过HADOOP_NAMENODE_OPTS来设置。同样的,可以通过HADOOP_SECONDARYNAMENODE_OPTS来设置secondrynamenode的内 阅读全文
posted @ 2013-03-08 11:31 醇酒醉影 阅读(16699) 评论(0) 推荐(2) 编辑
摘要: 1. 配置文件列表如下:[tianyc@Route conf]$ pwd/home/tianyc/hadoop-1.0.4/conf[tianyc@Route conf]$ ll总用量 76-rw-rw-r--. 1 tianyc NEU 7457 3月 6 10:38 capacity-scheduler.xml-rw-rw-r--. 1 tianyc NEU 535 3月 6 10:38 configuration.xsl-rw-rw-r--. 1 tianyc NEU 371 3月 6 14:26 core-site.xml-rw-rw-r--. 1 tianyc NEU... 阅读全文
posted @ 2013-03-08 10:45 醇酒醉影 阅读(1523) 评论(0) 推荐(1) 编辑