10 2021 档案
05 HDFS Java API应用实例
摘要:一、在Ubuntu系统中安装和配置Eclipse 二、利用hadoop 的java api,向HDFS写一个文件。 三、从HDFS读取一个文件的内容。 阅读全文
posted @ 2021-10-29 09:09 咚咚锵上天堂 阅读(38) 评论(0) 推荐(0)
04 Hadoop思想与原理
摘要:Hadoop最早起源于Nutch。Nutch的设计目标是构建一个大型的全网搜索引擎,包括网页抓取、索引、查询等功能,但随着抓取网页数量的增加,遇到了严重的可扩展性问题——如何解决数十亿网页的存储和索引问题。2003年、2004年谷歌发表的两篇论文为该问题提供了可行的解决方案。——分布式文件系统(GF 阅读全文
posted @ 2021-10-26 07:07 咚咚锵上天堂 阅读(95) 评论(0) 推荐(0)
熟悉Hadoop及其操作 3
摘要:启动hdfs 查看与创建hadoop用户目录。 在用户目录下创建与查看input目录。 将hadoop的配置文件上传到hdfs上的input目录下。运行MapReduce示例作业,输出结果放在output目录下。 查看output目录下的文件。 6.查看文件 7.下载并查看 7.停止 配置环境后打开 阅读全文
posted @ 2021-10-15 09:39 咚咚锵上天堂 阅读(50) 评论(0) 推荐(0)
3-1 熟悉Hadoop及其操作
摘要:Hadoop最早起源于Nutch。Nutch的设计目标是构建一个大型的全网搜索引擎,包括网页抓取、索引、查询等功能,但随着抓取网页数量的增加,遇到了严重的可扩展性问题——如何解决数十亿网页的存储和索引问题。2003年、2004年谷歌发表的两篇论文为该问题提供了可行的解决方案。——分布式文件系统(GF 阅读全文
posted @ 2021-10-13 20:01 咚咚锵上天堂 阅读(62) 评论(0) 推荐(0)