摘要:
1. 继承MultipleTextOutputFormat实现自己的输出类。 2. 重写generateFileNameForKeyValue方法,返回输出的名字,可通过"/"分割表示目录路径。 3. 重写generateActualValue方法,返回真实的value。 4. 将类编译打包成jar
阅读全文
posted @ 2016-03-18 15:24
joco
阅读(933)
推荐(0)
摘要:
老mr程序中map中conf的map.input.file参数只能获取获取CombineTextInputFormat的第一个输入文件,而新版mr程序则连第一个输入文件也无法获取,这是因为createRecordReader中的TaskAttemptContext context参数与map中的co
阅读全文
posted @ 2016-03-11 11:58
joco
阅读(777)
推荐(0)
摘要:
1. 像map_input_file这种环境变量是在hadoop-streaming.jar程序中设置的,所以无需-cmdenv map_input_file参数就可以在php中直接引用,如$var=getenv('mapred_input_dir'); 2. 所有jobconf参数都可以通过环境变
阅读全文
posted @ 2016-03-11 11:46
joco
阅读(954)
推荐(0)
摘要:
RE: 焦诚 ~ 日报 - 由 焦 诚 在 5 个月 之前添加 2015-10-131.利用计算平台统计2015-09-28 => 2015-10-11 共14天的spe_num=502306的云查杀日志,1天的结果在10万条-20万+条不等,两周的结果在200万条左右。由于结果数据量较大,暂时无法
阅读全文
posted @ 2016-03-11 11:16
joco
阅读(381)
推荐(0)
摘要:
序当我在2001年开始OGRE项目的时候,我的初衷只是想做一些可以帮助开发者(当然首先也是为了我自己)尽可能减少实时3D的开发难度而同时又增加开发灵活性的事情。这在那个时候也确实不是什么宏伟的计划,而仅仅是一个出于个人角度的原本应该做的事情,而最终却被全世界范围内大量开发者所支持,这着实令我惊讶。我以前从没有想过OGRE能在当今如此流行,更没有想到我有幸能被邀请为本书做一个简短的序言。即使我无从阅...
阅读全文
posted @ 2010-05-11 21:12
joco
阅读(760)
推荐(1)