上一页 1 ··· 14 15 16 17 18 19 20 21 22 ··· 30 下一页
  2018年5月22日
摘要: 1、刚才未启动zookeeper集群的时候,直接启动kafka脚本程序,kafka报错了,但是进程号启动起来来,再次启动出现如下所示的问题,这里先将进程号杀死,再启动脚本程序。 阅读全文
posted @ 2018-05-22 09:41 别先生 阅读(3411) 评论(0) 推荐(0) 编辑
摘要: 1、启动kafka的脚本程序报如下所示的错误: 2、根据错误分析,说zookeeper的问题,之前我没有启动zookeeper集群,所以先启动zookeeper集群,然后启动kafka解决问题; 阅读全文
posted @ 2018-05-22 09:32 别先生 阅读(5039) 评论(0) 推荐(0) 编辑
  2018年5月20日
摘要: 1、执行脚本程序报如下所示的错误: 2、猛一看,WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applica 阅读全文
posted @ 2018-05-20 17:27 别先生 阅读(1345) 评论(0) 推荐(0) 编辑
  2018年5月18日
摘要: 1、使用sqoop技术将mysql的数据导入到Hive出现的错误如下所示: 第一次使用命令如下所示: 1 [hadoop@slaver1 sqoop-1.4.5-cdh5.3.6]$ bin/sqoop import --connect jdbc:mysql://localhost:3306/tes 阅读全文
posted @ 2018-05-18 20:07 别先生 阅读(2658) 评论(0) 推荐(0) 编辑
摘要: 1、当时初学Sqoop的时候,mysql导入到hdfs导入命令执行以后,在hdfs上面没有找到对应的数据,今天根据这个bug,顺便解决这个问题吧,之前写的http://www.cnblogs.com/biehongli/p/8039128.html。 1 [hadoop@slaver1 sqoop- 阅读全文
posted @ 2018-05-18 19:42 别先生 阅读(3512) 评论(0) 推荐(0) 编辑
  2018年5月17日
摘要: 1、问题描述,启动azkaban的时候报如下所示的错误。之前使用azkaban是root用户,今天使用hadoop用户进行配置和使用,报这个错,说是root连接mysql拒绝了。 1 [hadoop@slaver1 azkaban-web-2.5.0]$ bin/azkaban-web-start. 阅读全文
posted @ 2018-05-17 17:15 别先生 阅读(2551) 评论(4) 推荐(0) 编辑
  2018年5月8日
摘要: 1、首先对linux操作系统的crontab命令进行熟悉和了解: 2、在/etc目录下有一个crontab文件,查看这个文件内容如下所示: 3、使用实例: 4、crontab配置 5、uploadFile2Hdfs.v2.sh 待续...... 阅读全文
posted @ 2018-05-08 21:25 别先生 阅读(2987) 评论(0) 推荐(0) 编辑
摘要: 1、错误如下所示,启动flume采集文件到hdfs案例的时候,出现如下所示的错误: 大概是说No channel configured for sink,所以应该是sink哪里配置出现了错误,百度了一下,然后检查了一下自己的配置: 2、解决方法如下所示: 参考链接如https://stackover 阅读全文
posted @ 2018-05-08 20:58 别先生 阅读(1468) 评论(0) 推荐(0) 编辑
  2018年4月25日
摘要: 1、相信大家新建的maven项目,然后添加好依赖(即修改了pom.xml文件以后就会出现如下所示的错误): 截图如下所示: 大致意思呢,读读英语还是挺有意思的,错误提示说,项目的配置没有及时更新with 这个pom.xml文件,所以更新一下配置文件即可。操作如下所示: 即鼠标右击错误,然后点击弹出的 阅读全文
posted @ 2018-04-25 20:18 别先生 阅读(14381) 评论(4) 推荐(4) 编辑
  2018年4月24日
摘要: 1、启动kafka的时候,报错如下所示: 2、原因分析,主要是自己是hadoop用户操作,期间无意登陆到root权限,启动了kafka,且启动成功了,创建了如下所示的目录,而且权限是root权限的,当我切换到hadoop用户的时候,启动kafka直接报如下所示的错误: 3、可以看到目录如下所示,解决 阅读全文
posted @ 2018-04-24 19:44 别先生 阅读(11091) 评论(1) 推荐(0) 编辑
摘要: 1、启动hive的时候出现这个问题,报错如下所示: 2、具体原因是我配置hive的hive.site.sh的时候配置了如下所示的内容,注释了就不报错了,这里先注释了: 阅读全文
posted @ 2018-04-24 16:52 别先生 阅读(2379) 评论(0) 推荐(0) 编辑
摘要: 1、针对国外的开源技术,还是学会看国外的英文说明来的直接,迅速,这里简单贴一下如何看: 2、进入到flume的conf目录,创建一个flume-spark-push.sh的文件: [hadoop@slaver1 conf]$ vim flume-spark-push.sh 配置一下这个文件,flum 阅读全文
posted @ 2018-04-24 10:53 别先生 阅读(2583) 评论(0) 推荐(0) 编辑
  2018年4月23日
摘要: 1、Spark Streaming是什么? 2、Spark与Storm的对比 a、Spark开发语言:Scala、Storm的开发语言:Clojure。 b、Spark编程模型:DStream、Storm编程模型:Spout/Bolt。 c、Spark和Storm的对比介绍: Spark: Stor 阅读全文
posted @ 2018-04-23 17:24 别先生 阅读(725) 评论(0) 推荐(0) 编辑
摘要: 1、完全分布式 ./bin/run-example streaming.NetworkWordCount localhost 9999无法正常运行: 2、启动过程如上所示,下面就是问题,当在nc -lk 9999命令窗口,输入例如hello world hello world hadoop worl 阅读全文
posted @ 2018-04-23 16:46 别先生 阅读(2475) 评论(0) 推荐(0) 编辑
摘要: 1、虽然,不是大错,还说要贴一下,由于我运行run-example streaming.NetworkWordCount localhost 9999的测试案例,出现的错误,第一感觉就是Spark没有启动导致的: 2、启动Spark的脚本命令: [hadoop@slaver1 spark-1.5.1 阅读全文
posted @ 2018-04-23 15:35 别先生 阅读(8014) 评论(0) 推荐(0) 编辑
  2018年4月22日
摘要: 1、执行Spark运行在yarn上的命令报错 spark-shell --master yarn-client,错误如下所示: 解决方法如下所示: 参考文章:https://blog.csdn.net/chengyuqiang/article/details/69934382 HADOOP_CONF 阅读全文
posted @ 2018-04-22 21:43 别先生 阅读(4313) 评论(0) 推荐(0) 编辑
  2018年4月17日
摘要: 1、官网下载maven:https://maven.apache.org/download.cgi 2、上传到虚拟机进行解压缩操作: [hadoop@slaver1 package]$ tar -zxvf apache-maven-3.5.3-bin.tar.gz -C /home/hadoop/s 阅读全文
posted @ 2018-04-17 16:14 别先生 阅读(5419) 评论(0) 推荐(0) 编辑
摘要: 1、启动你的虚拟机,然后点击虚拟机,如下所示(未安装的话,显示的是安装VMware Tools): 2、点击安装Vmware tools以后显示如下所示: 3、VMwareTools-9.9.2-2496486.tar.gz拷贝到/tmp目录下。 4、在进入/tmp目录下解压VMwareTools- 阅读全文
posted @ 2018-04-17 11:46 别先生 阅读(14469) 评论(1) 推荐(0) 编辑
  2018年4月15日
摘要: 1、Oozie的简单介绍: 1、Oozie是一个工作流引擎服务器,用于运行hadoop map/reduce和hive等任务工作流,同时Oozie还是一个Java web程序,运行在Java Servlet容器中,如Tomcat中。Oozie以action为基本任务单元,可以将多个action构成一 阅读全文
posted @ 2018-04-15 14:59 别先生 阅读(4644) 评论(3) 推荐(0) 编辑
摘要: 1、启动hive的过程中,[hadoop@slaver1 soft]$ hive --service metastore &错误如下所示: 原因:之前启动hive失败了,但是进程以及启动起来,使用jps命令查看,然后使用kill -9 进程号,杀死重启即可。 操作如下所示: 阅读全文
posted @ 2018-04-15 10:18 别先生 阅读(16031) 评论(1) 推荐(2) 编辑
上一页 1 ··· 14 15 16 17 18 19 20 21 22 ··· 30 下一页