会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
牵牛花
博客园
首页
新随笔
联系
订阅
管理
上一页
1
···
20
21
22
23
24
25
26
27
28
···
45
下一页
2017年5月21日
ApplicationMaster是如何启动container并通信
摘要: ApplicationMaster是如何启动container并通信 hadoop的关键进程 http://blog.csdn.net/jediael_lu/article/details/46386773 当wordcount程序传入两个元文件时启动了两个map task ,可以看到两个jps进程
阅读全文
posted @ 2017-05-21 09:35 牵牛花
阅读(463)
评论(0)
推荐(0)
2017年5月20日
java -cp 命令 java jar 命令和 hadoop jar 命令
摘要: -cp 和 -classpath 一样,是指定类运行所依赖其他类的路径,通常是类库,jar包之类,需要全路径到jar包,window上分号“;” java -cp .;myClass.jar packname.mainclassname classpath中的jar文件能使用通配符,如果是多个jar
阅读全文
posted @ 2017-05-20 22:56 牵牛花
阅读(10859)
评论(0)
推荐(0)
Linux 定时任务 crontab
摘要: demo1 crontab -e # 一分钟执行一次 */1 * * * * /home/hadoop/hivestudy/test.sh ll test.dat 观察文件是否在变大 crontab -l 查看定时任务 每五分钟执行 */5 * * * * 每小时执行 0 * * * * 每天执行
阅读全文
posted @ 2017-05-20 17:48 牵牛花
阅读(174)
评论(0)
推荐(0)
linux中if[[ $file == r* ]]的空格
摘要: [hadoop@mini2 study]$ ./t.sh access.log.1 hahahahtest1.sh hahahaht.sh hahahah 这个结果就不对,因为[[]]中的等号两端没有空格!,加上空格就对了 还有if后面必须有空格,then要和if在同一行then前面必须加上分号;
阅读全文
posted @ 2017-05-20 16:30 牵牛花
阅读(491)
评论(0)
推荐(0)
2017年5月19日
hadoop常见问题
摘要: 1。运行mapreduce程序出错,connection to resourcemanagerretrying ...retrying ...原因是没有启动yarn或者启动失败 2.hdfs namenode -format 只是初始化了namenode的工作目录而datanode的工作目录是在da
阅读全文
posted @ 2017-05-19 17:04 牵牛花
阅读(183)
评论(0)
推荐(0)
hadoop入门博客链接
摘要: http://blog.itpub.net/30066956/cid-175369-list-1/
阅读全文
posted @ 2017-05-19 15:15 牵牛花
阅读(116)
评论(0)
推荐(0)
2017年5月18日
hdfs常用命令
摘要: URI统一资源定位符jdbc:mysql://localhost:3306hdfs://mini2:9000schema 协议ip端口指定客户端在访问时访问那个ip的那个端口hadoop.tmp.dir 每个进程工作时的数据目录mapred-site.xml 中hdfs.framework的默认值是
阅读全文
posted @ 2017-05-18 11:16 牵牛花
阅读(184)
评论(0)
推荐(0)
2017年5月17日
WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
摘要: centos 6.7 hadoop 2.6.5 解决方案 /usr/local/hadoop-2.5.2/etc/hadoop/log4j.properties文件中添加 log4j.logger.org.apache.hadoop.util.NativeCodeLoader=ERROR 我的是学习
阅读全文
posted @ 2017-05-17 18:22 牵牛花
阅读(195)
评论(0)
推荐(0)
(初学者)安装hadoop集群注意事项
摘要: 1.关闭防火墙 2.所有的hadoop操作都是hadoop用户下面的,同时需要用hadoop用户登录之后,对于其他的机器的hadoop用户可以免密登录 3.hadoop用户在root组下面,不是附加组! 4.配置hadoop-env 中的Java_home 是因为hadoop只运行时需要ssh 启动
阅读全文
posted @ 2017-05-17 10:27 牵牛花
阅读(311)
评论(0)
推荐(0)
2017年5月16日
配置HADOOP_HOME
摘要: 配置HADOOP_HOME export HADOOP_HOME=/usr/hadoop-1.2.0export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin :$HADOOP_HOME/sbin是管理级别的,不加,只加bin就可以了source /et
阅读全文
posted @ 2017-05-16 10:59 牵牛花
阅读(1546)
评论(0)
推荐(0)
上一页
1
···
20
21
22
23
24
25
26
27
28
···
45
下一页
公告