摘要: mapreduce原理我就不讲了,这篇已经讲过这篇学习如何通过java来编写一个mapreduce模型的wordcount程序用于统计单词出现个数所需的jar包与上一篇一致编码TokenizerMapper.ja... 阅读全文
posted @ 2017-12-26 11:09 menco 阅读(8) 评论(0) 推荐(0)
摘要: 这篇我就直接开始java代码编写啦,其实就是调用hadoop的api,对HDFS进行增删改查操作,HDFS本身对外提供服务是没有什么密码验证的,只认用户名,所以我们是需要对它进行一步封装,然后再提供我们封装好后的... 阅读全文
posted @ 2017-12-22 16:43 menco 阅读(18) 评论(0) 推荐(0)
摘要: 什么是hadoop?Hadoop无非就是:HDFS(文件系统),yarn(任务调配),mapReduce(编程模型,大数据并行运算),我们安装完hadoop就已经包括了以上;Hadoop集群其实就是HDFS集群,... 阅读全文
posted @ 2017-12-22 10:08 menco 阅读(63) 评论(0) 推荐(0)
摘要: 下载hadoop官网是:Hadoop.apache.org直接打开这个链接即可下载最新稳定版,我下载到的是hadoop-2.9的安装1.我就准备用上两台机子吧;namenode192.168.27.131data... 阅读全文
posted @ 2017-12-21 14:29 menco 阅读(5) 评论(0) 推荐(0)
摘要: 这篇开始玩玩atlas来实现数据库的读写分离atlas是什么?atlas说白了就是一个数据库代理,起到一个代理作用,实现读写分离中间的mysql-proxy指的就是atlas1、atlas配置1.1下载wget ... 阅读全文
posted @ 2017-12-12 12:59 menco 阅读(11) 评论(0) 推荐(0)
摘要: 什么是读写分离?为什么要用读写分离?读写分离顾名思义就是读和写分开不同的数据库,分别有主库master和从库slave,master进行写操作,slave进行读操作;使用读写分离提高系统读写数据的性能,缓解数据库... 阅读全文
posted @ 2017-12-11 17:49 menco 阅读(20) 评论(0) 推荐(0)
摘要: 为什么要用统一配置?我们做项目时用到的配置比如数据库配置等...我们都是写死在项目里面,如果需要更改,那么也是的修改配置文件然后再投产上去,那么问题来了,如果做集群的呢,有100台机器,这时候做修改那就太不切实际... 阅读全文
posted @ 2017-12-07 16:47 menco 阅读(63) 评论(0) 推荐(0)
摘要: 什么是分布式锁?可以这么理解:分布式锁和线程锁类似,区别在于分布式锁是对于不同机器上的,而线程锁是对于同一机器不同线程的。分布式锁用于在分布式系统中,不同服务器对同一条数据进行修改时运用到。获取到分布式锁的服务器... 阅读全文
posted @ 2017-12-06 17:02 menco 阅读(13) 评论(0) 推荐(0)
摘要: 消息持久化顾名思义就是把发布的消息进行落地,这样activeMQ宕机也不会导致那些未被消费的消息给弄消失,这样保证消息都能被消费。activeMQ消息持久化有JDBC,AMQ,KahaDB和LevelDB等这几种... 阅读全文
posted @ 2017-12-05 10:51 menco 阅读(15) 评论(0) 推荐(0)
摘要: 上篇文章讲的是queue点对点模式,这篇讲下如何进行topic订阅模式上篇用的spring是3的,有的老,会报错,所以我把spring升级为4的,pom.xml如下: 4.0.0 com.cwh.active... 阅读全文
posted @ 2017-12-01 16:10 menco 阅读(37) 评论(0) 推荐(0)