会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
tinylcy
博客园
首页
新随笔
联系
订阅
管理
上一页
1
2
3
4
5
6
7
8
···
12
下一页
2015年3月9日
Hadoop:用API来压缩从标准输入中读取的数据并将其写到标准输出
摘要: codec实现了一种压缩-解压缩算法,在Hadoop中,一个对CompressionCodec接口的实现代表一个codecCompressionCodec接口包含两个函数如果要对写入输出数据流的数据进行压缩,可用createOutputStream(OutputStream out)方法在底层的数据...
阅读全文
posted @ 2015-03-09 17:21 tinylcy
阅读(483)
评论(0)
推荐(0)
2015年3月8日
Hadoop示例程序wordcount分析
摘要: wordcount作为Hadoop的示例程序,其思想很简洁,但也值得去理解尤其是作为Hadoop菜鸟的我wordcount程序如下:package com.lcy.hadoop.examples;import java.io.IOException;import java.util.StringTo...
阅读全文
posted @ 2015-03-08 00:03 tinylcy
阅读(305)
评论(0)
推荐(0)
2015年3月7日
显示Hadoop文件系统中的路径的文件信息
摘要: FileSystem的listStatus方法的功能:列出目录中的内容当传入的参数是一个文件时,它会转变成以数组的方式返回长度为1的FileStatus对象当传入的参数是一个目录时,返回0或多个FileStatus对象,表示此目录中包含的文件和目录如果指定一组路径,其执行结果相当于依次轮流传递每条路...
阅读全文
posted @ 2015-03-07 10:36 tinylcy
阅读(498)
评论(0)
推荐(0)
2015年3月6日
Linux文件与目录的权限(chown、chmod)
摘要: chown,即为change owner如下图:hadoop-1.2.1.tar.gz原来的拥有者为hadoop用户,现将其拥有者修改为root:========================================================================chmod...
阅读全文
posted @ 2015-03-06 23:27 tinylcy
阅读(501)
评论(0)
推荐(0)
通过FileSystem API读取数据
摘要: 参照前面提到的通过Hadoop URL读取数据,有时根本不可能在应用中设置URLStreamHandlerFactory实例,在这种情况下,需要使用FileSystem API来打开一个文件的输入流FIleSystem是一个通用文件系统的API,所以第一步是检索我们需要的文件系统的实例,这里是HDF...
阅读全文
posted @ 2015-03-06 15:50 tinylcy
阅读(1749)
评论(0)
推荐(0)
通过Hadoop URL读取数据
摘要: 让Java程序能够识别Hadoop的hdfs URL方案需要一些额外的工作,采用的方法是通过FsUrlStreamHandlerFactory实例调用java.net.URL对象的setURLStreamHandlerFactory方法。每个Java虚拟机只能调用一次这个方法,因此通常在静态方法中调...
阅读全文
posted @ 2015-03-06 15:25 tinylcy
阅读(839)
评论(0)
推荐(0)
2015年3月5日
Hadoop分析Tomcat日志Demo实现
摘要: Tomcat日志:127.0.0.1,-,-,[08/May/2014:13:42:40 +0800],GET / HTTP/1.1,200,11444127.0.0.1,-,-,[08/May/2014:13:42:42 +0800],GET /jygl/jaxrs/teachingManage/...
阅读全文
posted @ 2015-03-05 17:37 tinylcy
阅读(1017)
评论(0)
推荐(0)
Ubuntu14.04下安装Eclipse
摘要: 从官网下载Eclipse IDE for Java EE Developers的Linux版本eclipse-jee-luna-SR2-linux-gtk.tar.gz我把下载后的压缩包移动到了 /usr/local 下解压:$ tar -zxvfeclipse-jee-luna-SR2-linux...
阅读全文
posted @ 2015-03-05 11:16 tinylcy
阅读(240)
评论(0)
推荐(0)
2015年3月4日
Linux命令——确保使用的命令是正确的
摘要: 1.which命令当输入一个Linux命令时,Shell究竟执行的是哪一个目录下的同名命令,我们不得而知,可以使用which予以验证。2.whereis命令与which类似的命令,whereis用于检索与给定命令相关的文件。3.apropos命令借助于apropos命令,利用关键字检索命令。apro...
阅读全文
posted @ 2015-03-04 20:42 tinylcy
阅读(233)
评论(0)
推荐(0)
HDFS文件操作(基本文件命令)
摘要: 文件列表命令:如果你想看到所有的字目录,则可以使用Hadoop的lsr命令:在本地的文件系统创建一个名为example.txt的文本文件,用Hadoop的命令put将它从本地文件系统复制到HDFS上去:注意命令最后一个参数是一个句点(.)。这意味着我把文件放入了默认的工作目录,等价于 bin/had...
阅读全文
posted @ 2015-03-04 16:28 tinylcy
阅读(1449)
评论(0)
推荐(0)
上一页
1
2
3
4
5
6
7
8
···
12
下一页
公告