Linux与Hadoop操作实验3

请按要求上机实践如下linux基本命令。

cd命令:切换目录

(1)切换到目录 /usr/local

(2)去到目前的上层目录

(3)回到自己的主文件夹

 

ls命令:查看文件与目录

(4)查看目录/usr下所有的文件

 

 

 

 

mkdir命令:新建新目录

(5)进入/tmp目录,创建一个名为a的目录,并查看有多少目录存在

(6)创建目录a1/a2/a3/a4

 

 

 

 

 

 

rmdir命令:删除空的目录

(7)将上例创建的目录a(/tmp下面)删除

(8)删除目录a1/a2/a3/a4,查看有多少目录存在

 

 

 

 

 

 

cp命令:复制文件或目录

(9)将主文件夹下的.bashrc复制到/usr下,命名为bashrc1

(10)在/tmp下新建目录test,再复制这个目录内容到/usr

 

 

 

 

 

 

mv命令:移动文件与目录,或更名

(11)将上例文件bashrc1移动到目录/usr/test

(12)将上例test目录重命名为test2

 

 

 

 

 

 

rm命令:移除文件或目录

(13)将上例复制的bashrc1文件删除

(14)将上例的test2目录删除

 

 

 

 

 

 

cat命令:查看文件内容

(15)查看主文件夹下的.bashrc文件内容

 

 

 

 

 

tac命令:反向列示

(16)反向查看主文件夹下.bashrc文件内容

 

 

 

 

 

 

more命令:一页一页翻动查看

(17)翻页查看主文件夹下.bashrc文件内容

 

 

 

 

 

 

head命令:取出前面几行

(18)查看主文件夹下.bashrc文件内容前20行

 

 

 

 

(19)查看主文件夹下.bashrc文件内容,后面50行不显示,只显示前面几行

 

 

 

tail命令:取出后面几行

(20)查看主文件夹下.bashrc文件内容最后20行

 

 

 

 

(21)查看主文件夹下.bashrc文件内容,只列出50行以后的数据

chown命令:修改文件所有者权

 

 

 

 

 

(22)将hello文件所有者改为root帐号,并查看属性

 

 

 

 

(23)在主文件夹下创建文本文件my.txt,输入文本保存退出。

 

 

 

 

 

 

(24)将my.txt打包成test.tar.gz

 

 

 

 

(25)解压缩到~/tmp目录

 

 

 

 

 

 

(二)熟悉使用MySQL shell操作

(26)显示库:show databases;

 

 

 

 

 

(27)进入到库:use 库名;

 

 

 

 

 

(28)展示库里表格:show tables;

 

 

 

 

 

(29)显示某一个表格属性:desc 表格名;

 

 

 

 

 

(30)显示某一个表格内的具体内容:select *form 表格名;、

 

 

 

 

 

(31)创建一个数据库:create databases sc;

 

 

 

 

 

(32)在sc中创建一个表格:create table if not exists student( );

 

 

 

 

 

(33)向表格student中插入具体内容:insert into 表格名(名)values(value);

插入记录包含自己的学号

 

 

 

 

  

(34)显示表

 

 

 

 

 

(三)熟悉Hadoop及其操作

 

 

 

(34)用图文与自己的话,简要描述Hadoop起源与发展阶段。

起源:

2006年2月被分离出来,成为一套完整独立的软件,起名为Hadoop
Hadoop名字不是一个缩写,而是一个生造出来的词。是Hadoop之父Doug Cutting儿子毛绒玩具象命名的。
Hadoop的成长过程
Lucene–>Nutch—>Hadoop

Hadoop起源于Google的三大论文
GFS:Google的分布式文件系统Google File System
MapReduce:Google的MapReduce开源分布式并行计算框架
BigTable:一个大型的分布式数据库


演变历史:

2004年— 最初的版本(现在称为HDFS和MapReduce)由Doug Cutting和Mike Cafarella开始实施。
2005年12月— Nutch移植到新的框架,Hadoop在20个节点上稳定运行。
2006年1月— Doug Cutting加入雅虎。
2006年2月— Apache Hadoop项目正式启动以支持MapReduce和HDFS的独立发展。
2006年5月— 雅虎建立了一个300个节点的Hadoop研究集群。
2006年5月— 标准排序在500个节点上运行42个小时(硬件配置比4月的更好)。
2006年11月— 研究集群增加到600个节点。
2006年12月— 标准排序在20个节点上运行1.8个小时,100个节点3.3小时,500个节点5.2小时,900个节点7.8个小时。
2007年1月— 研究集群到达900个节点。
2007年4月— 研究集群达到两个1000个节点的集群。
2008年4月— 赢得世界最快1TB数据排序在900个节点上用时209秒。
2008年7月— 雅虎测试节点增加到4000个
2009年7月— Hadoop Core项目更名为Hadoop Common;
2009年7月— MapReduce 和 Hadoop Distributed File System (HDFS) 成为Hadoop项目的独立子项目。
2009年7月— Avro 和 Chukwa 成为Hadoop新的子项目。
2009年9月— 亚联BI团队开始跟踪研究Hadoop
2009年12月—亚联提出橘云战略,开始研究Hadoop
2010年5月— Avro脱离Hadoop项目,成为Apache顶级项目。
2010年5月— IBM提供了基于Hadoop 的大数据分析软件——InfoSphere BigInsights,包括基础版和企业版。
2011年1月— ZooKeeper 脱离Hadoop,成为Apache顶级项目。
2011年5月— Mapr Technologies公司推出分布式文件系统和MapReduce引擎——MapR Distribution for Apache Hadoop。
2011年6月— 数据集成供应商Informatica发布了其旗舰产品,产品设计初衷是处理当今事务和社会媒体所产生的海量数据,同时支持Hadoop。
2011年7月— Yahoo!和硅谷风险投资公司 Benchmark Capital创建了Hortonworks 公司,旨在让Hadoop更加鲁棒(可靠),并让企业用户更容易安装、管理和使用Hadoop。
2011年8月— Cloudera公布了一项有益于合作伙伴生态系统的计划——创建一个生态系统,以便硬件供应商、软件供应商以及系统集成商可以一起探索如何使用Hadoop更好的洞察数据。

 

 

 

(35)对比操作三个文件系统:分别用命令行与窗口方式查看windows,Linux和Hadoop的文件系统的用户主目录。

windows:

 

 

Linux:

 

Hadoop:

 

 

 

 

 

36..一个操作案例:

 

上传文件:

 

运行实例作业:

 

查看输出结果:

 

 

 

下载文件:

 

查看下载的文件:

 

停止hdfs:

 

 

jps:

 

 

posted @ 2021-09-24 11:33  杨豆干  阅读(319)  评论(0)    收藏  举报