随笔分类 - zookeeper kafka
摘要:1.在服务器安装 java 2.配置一套zookeeper集群 我在该服务器配置了一套 数量为3的 伪zookeeper集群 zoo1 对应 2181端口 zoo2 对应 2182端口 zoo3 对应 2183端口 (如果不想做集群,可以临时启用一个 zookeeper模拟实例) 3.上传 kafk
阅读全文
摘要:一、kafka 简介 kafka是一种高吞吐量的 分布式 发布订阅 消息系统 ,它可以处理消费者规模的网站中的所有动作流数据。这种动作(网页浏览,搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。 1.1 kafka名词解
阅读全文
摘要:Zookeeper的搭建方式 Zookeeper安装方式有三种,单机模式和集群模式以及伪集群模式。 ■ 单机模式: Zookeeper只运行在一台服务器上,适合测试环境;■ 伪集群模式:就是在一台物理机上运行多个Zookeeper 实例;■ 集群模式:Zookeeper运行于一个集群上,适合生产环境
阅读全文
摘要:配置管理 程序总是需要配置的,如果程序分散部署在多台机器上,要逐个改变配置就变得困难。好吧,现在把这些配置全部放到zookeeper上去,保存在 Zookeeper 的某个目录节点中,然后所有相关应用程序对这个目录节点进行监听,一旦配置信息发生变化,每个应用程序就会收到 Zookeeper 的通知,
阅读全文
摘要:简介: ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务。 它Google的Chubby一个开源的实现,在分布式协调技术方面做得比较好的就是Google的Chubby还有Apache的ZooKeeper他们都是分布式锁的实现者。 有人会问 既然有了Chubby为什么还要弄一个Zoo
阅读全文
摘要:Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。 Hadoop实现了一个分布式文件系统(Hadoop Distributed File System),简称HDFS。HDFS有高容错性的特
阅读全文
摘要:local模式: 把安装包 解压到 /usr/local 下 [hadoop@master local]$ sudo tar -zxvf hadoop-2.7.3.tar.gz 创建一个软连接 [hadoop@master local]$ sudo ln -s hadoop-2.7.3 hadoop
阅读全文