• 博客园logo
  • 会员
  • 周边
  • 新闻
  • 博问
  • 闪存
  • 众包
  • 赞助商
  • Chat2DB
    • 搜索
      所有博客
    • 搜索
      当前博客
  • 写随笔 我的博客 短消息 简洁模式
    用户头像
    我的博客 我的园子 账号设置 会员中心 简洁模式 ... 退出登录
    注册 登录

无信不立

  • 博客园
  • 联系
  • 订阅
  • 管理

公告

随笔分类 -  大数据

上一页 1 2 3 4 下一页

redis之(二)redis单机的安装,配置,启动,关闭
摘要:[1]下载redis压缩包,解压,编译 [2]编译完成后,在当前目录下运行make test命令确保编译无错误,知道屏幕上输出 [3]解压编译,测试编译无误后,以root用户运行make install命令,将可执行文件复制到/usr/local/bin目录下,方便以后执行程序时,可以不用输入完整路 阅读全文

posted @ 2016-05-20 13:35 无信不立 阅读(414) 评论(0) 推荐(0)

redis之(一)redis的简单介绍
摘要:[一]:概念 >Redis是一个开源的,高性能的,基于键值对的缓存与存储系统 >Redis数据库中的多有数据都存储在内存中,由于内存的读写速度远快于硬盘,一秒读写超过10万键值 >Redis提供对数据持久化的支持,可以将内存中的数据异步写入硬盘。 >Redis约定的版本号:小数点后的数字,为偶数,则 阅读全文

posted @ 2016-05-20 13:33 无信不立 阅读(247) 评论(0) 推荐(0)

分布式之《保证分布式系统数据一致性的6种解决方案》
摘要:原文:http://weibo.com/ttarticle/p/show?id=2309403965965003062676 编者按:本文由「高可用架构后花园」群讨论整理而成。 有人的地方,就有江湖 有江湖的地方,就有纷争 问题的起源 在电商等业务中,系统一般由多个独立的服务组成,如何解决分布式调用 阅读全文

posted @ 2016-04-20 14:06 无信不立 阅读(4635) 评论(0) 推荐(0)

三:基于Storm的实时处理大数据的平台架构设计
摘要:一:元数据管理器==>元数据管理器是系统平台的“大脑”,在任务调度中有着重要的作用【1】什么是元数据?--->中介数据,用于描述数据属性的数据。--->具体类型:描述数据结构,数据的具体位置,数据间的依赖关系,数据的处理过程,数据的快照信息等。【2】为何要引入元数据--->实际案例:HDFS中的Na 阅读全文

posted @ 2016-03-06 16:11 无信不立 阅读(1268) 评论(0) 推荐(0)

三:Storm设计一个Topology用来统计单词的TopN的实例
摘要:Storm的单词统计设计 一:Storm的wordCount和Hadoop的wordCount实例对比 二:Storm的wordCount的方案实例设计 三:建立maven项目,添加maven相关依赖包(1)输入:search.maven.org网址,在其中找到storm的核心依赖(2)将核心依赖添 阅读全文

posted @ 2016-03-04 15:05 无信不立 阅读(803) 评论(0) 推荐(0)

二:Storm的配置项说明
摘要:配置项 配置说明 storm.zookeeper.servers ZooKeeper服务器列表 storm.zookeeper.port ZooKeeper连接端口 storm.local.dir storm使用的本地文件系统目录(必须存在并且storm进程可读写) storm.cluster.mo 阅读全文

posted @ 2016-03-01 18:16 无信不立 阅读(3145) 评论(0) 推荐(0)

一:Storm集群环境搭建
摘要:第一:storm集群环境准备及部署【1】硬件环境准备--->机器数量>=3--->网卡>=1--->内存:尽可能大--->硬盘:无额外需求【2】软件环境准备--->CentOS-6.0-x86_64系统环境--->三台地址--->zookeeper和storm公用物理环境 第二:节点环境查看 第三: 阅读全文

posted @ 2016-02-29 18:00 无信不立 阅读(270) 评论(0) 推荐(0)

八:Zookeeper开源客户端Curator的api测试
摘要:curator是Netflix公司开源的一套ZooKeeper客户端,Curator解决了很多ZooKeeper客户端非常底层的细节开发工作。包括连接重连,反复注册Watcher等。实现了Fluent风格的API接口,目前已经为Apache的顶级项目,是全世界使用最广泛的ZooKeeper客户端之一 阅读全文

posted @ 2016-02-26 17:39 无信不立 阅读(1001) 评论(0) 推荐(0)

七:zooKeeper开源客户端ZkClient的api测试
摘要:ZkClient是Gitthub上一个开源的ZooKeeper客户端。ZKClient在ZooKeeper原生API接口之上进行了包装,是一个更加易用的ZooKeeper客户端。同时ZKClient在内部实现诸如Session超时重连,Watcher反复注册等功能。 一:maven依赖 1 <dep 阅读全文

posted @ 2016-02-26 12:00 无信不立 阅读(1072) 评论(0) 推荐(0)

六:ZooKeeper的java客户端api的使用
摘要:一:客户端链接测试 1 package com.yeepay.sxf.createConnection; 2 3 import java.io.IOException; 4 5 import org.apache.zookeeper.ZooKeeper; 6 import org.apache.zo 阅读全文

posted @ 2016-02-25 19:06 无信不立 阅读(804) 评论(0) 推荐(0)

五:ZooKeeper的集群命令客户端的链接和命令操作的使用
摘要:一:zookeeper客户端链接【1】进入zookeeper的安装目录的bin目录下 # cd /opt/zookeeper/bin【2】敲击链接客户端的命令(zkCli.sh) # ./zkCli.sh -timeout 0 -r -server ip:port timeout==>单位:毫秒 表 阅读全文

posted @ 2016-02-23 18:39 无信不立 阅读(2116) 评论(0) 推荐(0)

四:ZooKeeper的集群,伪集群,单机的搭建
摘要:一:ZooKeeper服务安装包下载 第一步:打开zooKeeper官网第二步:进入下载页第三步:进入真正的下载页第四步:选择ZooKeeper版本第五步:复制下载的地址第六步:将本地的压缩包上传到服务器目录 二:zookeeper集群模式配置【1】zookeeper/cnfg/zoo_sample 阅读全文

posted @ 2016-02-23 18:35 无信不立 阅读(362) 评论(0) 推荐(0)

三:ZooKeeper的ZAB协议
摘要:一:ZAB协议概述--->ZooKeeper并没有完全采用Paxos算法,而是使用了一种称为ZooKeeper Atomic Broadcast(ZAB,zookeeper原子消息广播协议)的协议作为其数据一致性的核心算法。--->ZAB协议是为分布式协调服务ZooKeeper专门设计的一种支持漰溃 阅读全文

posted @ 2016-02-23 12:07 无信不立 阅读(8328) 评论(1) 推荐(3)

二:ZooKeeper术语概念
摘要:一:Zookeeper的设计目标 -->Zookeeper致力于提供一个高性能,高可用,且具有严格的顺序访问控制能力(主要是写操作的严格顺行性)的分布式协调服务。 -->高性能使得Zookeeper能够应用于那些对系统吞吐有明确要求的大型分布式系统中。 -->高可用使得分布式的单点问题得到很好的解决 阅读全文

posted @ 2016-02-23 12:05 无信不立 阅读(511) 评论(0) 推荐(0)

一:ZooKeeper简介
摘要:一:背景 --->随着互联网技术的高速发展,企业对计算机系统的计算,存储能力要求越来越高,最简单的明证就是出现一些诸如:高并发,海量存储这样的词汇。在这样的背景下,单纯依靠少量高性能主机来完成计算任务已经不能满足企业需求,企业的IT架构逐步从集中式向分布式过渡,所谓的分布式:把一个计算任务分解成若干 阅读全文

posted @ 2016-02-23 12:04 无信不立 阅读(839) 评论(0) 推荐(0)

七:zookeeper与paxos的分析
摘要:zookeeper是什么官方说辞:Zookeeper 分布式服务框架是Apache Hadoop 的一个子项目,它主要是用来解决分布式应用中经常遇到的一些数据管理问题,如:统一命名服务、状态同步服务、集群管理、分布式应用配置项的管理等。好抽象,我们改变一下方式,先看看它都提供了哪些功能,然后再看看使 阅读全文

posted @ 2016-02-22 15:16 无信不立 阅读(294) 评论(0) 推荐(0)

六:分布式事务一致性协议paxos的分析
摘要:最近研究paxos算法,看了许多相关的文章,概念还是很模糊,觉得还是没有掌握paxos算法的精髓,所以花了3天时间分析了libpaxos3的所有代码,此代码可以从https://bitbucket.org/sciascid/libpaxos 下载。对paxos算法有初步了解之后,再看此文的效果会更好 阅读全文

posted @ 2016-02-22 15:14 无信不立 阅读(766) 评论(0) 推荐(0)

五:分布式事务一致性协议paxos的应用场景
摘要:1.应用场景 (1)分布式中的一致性Paxos算法主要是解决一致性问题,关于“一致性”,在不同的场景有不同的解释:NoSQL领域:一致性更强调“能读到新写入的”,就是读写一致性数据库领域:一致性强调“所有的数据状态一致”,经过一个事务后,如果事务成功,所有的表数据都按照事务中的SQL进行了操作,该修 阅读全文

posted @ 2016-02-22 15:12 无信不立 阅读(2208) 评论(0) 推荐(0)

四:分布式事务一致性协议paxos通俗理解
摘要:转载地址:http://www.lxway.com/4618606.htm 维基的简介:Paxos算法是莱斯利·兰伯特(Leslie Lamport,就是 LaTeX 中的"La",此人现在在微软研究院)于1990年提出的一种基于消息传递且具有高度容错特性的一致性算法。 Paxos算法目前在Goog 阅读全文

posted @ 2016-02-22 11:44 无信不立 阅读(4027) 评论(0) 推荐(0)

三:分布式事务一致性协议2pc和3pc
摘要:一:分布式一致性协议--->对于一个分布式系统进行架构设计的过程中,往往会在系统的可用性和数据一致性之间进行反复的权衡,于是就产生了一系列的一致性协议。--->长期探索涌现出一大批经典的一致性协议和算法。其中最著名的就是二阶段提交协议,三阶段提交协议和paxos算法。二:2PC与3PC--->在分布 阅读全文

posted @ 2016-02-17 18:26 无信不立 阅读(3085) 评论(1) 推荐(0)

上一页 1 2 3 4 下一页
 
博客园  ©  2004-2025
浙公网安备 33010602011771号 浙ICP备2021040463号-3