摘要: 目的:将python实现mapreduce(1)中的python脚本部署到hadoop上,实现mapreduce。1. 修改脚本执行权限[tianyc@TeletekHbase ~]$ which python/usr/bin/python#将 #!/usr/bin/python 加到map.py和red.py的第一行,并设置执行权限。[tianyc@TeletekHbase python]$ chmod 744 *.py[tianyc@TeletekHbase python]$ ll总用量 20-rwxr--r--. 1 tianyc NEU 132 2月 19 00:40 map.py.. 阅读全文
posted @ 2013-02-20 16:58 醇酒醉影 阅读(1621) 评论(0) 推荐(0) 编辑
摘要: 在执行mapreduce时,map成功后,reduce一直hang在17%。现象如下:[tianyc@TkHbase hadoop]$ hadoop jar contrib/streaming/hadoop-streaming-1.0.4.jar -mapper /home/tianyc/study/mapred/python/mapper.py -reducer /home/tianyc/study/mapred/python/reduce.py -input 111/* -output 111-output2packageJobJar: [/tmp/hadoop-tianyc/hadoop 阅读全文
posted @ 2013-02-20 16:39 醇酒醉影 阅读(5725) 评论(0) 推荐(0) 编辑
摘要: 这时候可以使用键盘快捷键打开终端,在终端中进行操作。按alt+f2,输入gnome-terminal,即可打开。我的虚拟机ip是即时生效的,重启后就没有了。需要重新设置:ifconfig eth4 10.x.x.1 netmask 255.255.x.x uproute add -net 192.168.x.x netmask 255.255.x.x gw 10.x.x.254 阅读全文
posted @ 2013-02-20 11:26 醇酒醉影 阅读(8241) 评论(0) 推荐(0) 编辑
摘要: hadoop搭建正常,在执行mr时,提示一个datanode节点主机名非法:[tianyc@TeletekHbase bin]$ ~/hadoop/bin/hadoop jar ~/hadoop/contrib/streaming/hadoop-streaming-1.0.4.jar -mapper ~/study/mapred/python/map.py -reducer ~tudy/mapred/python/red.py -input test.dat -output test-outputpackageJobJar: [/tmp/hadoop-tianyc/hadoop-unjar77 阅读全文
posted @ 2013-02-20 11:15 醇酒醉影 阅读(2896) 评论(1) 推荐(1) 编辑
摘要: 1. 查看主机hostname的3种方式:[tianyc@TeletekHbase_2 ~]$ hostnameTeletekHbase_2[tianyc@TeletekHbase_2 ~]$ cat /proc/sys/kernel/hostnameTeletekHbase_2[tianyc@TeletekHbase_2 ~]$ cat /etc/sysconfig/networkNETWORKING=yesHOSTNAME=TeletekHbase_22. 通过命令修改hostname,立即生效,但重启后会失效。[tianyc@TeletekHbase_2 ~]$ hostname Tel 阅读全文
posted @ 2013-02-20 10:23 醇酒醉影 阅读(14928) 评论(0) 推荐(0) 编辑
摘要: 用户具有dba权限,但在执行一个存储过程时提示“ORA-01031: 权限不足”,该过程中存在动态SQL“execute immediate。。。”正是这里报的错误。1、ORACLE默认为定义者权限,定义者权限在存储过程中ROLE无效,需要显示授权。2、如果使用AUTHIDCURRENT_USER关键字使用调用者权限,则编译时ROLE无效,运行时有效。解决办法:方法1:就这个存储过程来说,CREATETABLE想使用CREATEANYTABLE权限,而CREATEANYTABLE权限来自DBA角色,默认情况下,虽然在会话环境中可见,但在存储过程中不可见(无效)。所以根据上面的第一条规则,可以显 阅读全文
posted @ 2013-02-20 09:20 醇酒醉影 阅读(42984) 评论(0) 推荐(0) 编辑