06 2017 档案
摘要:《Siddhi初探》中我们介绍了Siddhi的基本使用方法,并表示我们将把Siddhi集成到Storm中作为流任务处理引擎。本文将用《Storm初探》中的例子讲解如何集成Siddhi。 《Storm初探》中的例子把名字字符串进行分割与输出,我们将增加一个SIddhiBolt进行名字过滤,过滤规则是筛
阅读全文
摘要:官方对Siddhi的介绍如下: Siddhi CEP is a lightweight, easy-to-use Open Source Complex Event Processing Engine (CEP) under Apache Software License v2.0. Siddhi是
阅读全文
摘要:组合模式实际上是一种树形数据结构。以windows目录系统举例,怎么样用java语言描述一个文件夹? 定义一个文件夹类,文件夹类中包含若干个子文件类和若干个文件类。 进一步抽象,把文件夹和文件都看做节点,于是一个文件夹就可以描述为一个节点类,包含若干个子节点。 我们看看组合模式的代码 测试类 在实际
阅读全文
摘要:Ignite使用计算机内存存储缓存数据,达到提升缓存读写性能的。但是计算机内存往往是有限的,我们必须合理管理Ignite对内存的使用。 Ignite可以使用JVM堆外内存和堆内内存。使用堆外内存基本上会对JVM垃圾回收造成影响,也不会对JVM中的其他进程数据造成影响。但是使用堆内内存性能更高。 一般
阅读全文
摘要:分布式处理中,总会存在多个服务节点同时工作,并且节点数量会随着网络规模的变化而动态增减,服务节点也有可能发生宕机与恢复。面对着动态增减的服务节点,我们如何保证客户请求被服务器正确处理呢。我们可以通过zookeeper临时节点创建与自动删除来掌握服务节点的动态增减。 ignite分布式缓存支持使用zo
阅读全文
摘要:前一讲中我们知道,Zookeeper通过维护一个分布式目录数据结构,实现分布式协调服务。本文主要介绍利用Zookeeper有序目录的创建和删除,实现分布式共享锁。 举个例子,性能管理系统中,告警规则只允许最多创建450条,我们如何保证这个约束呢? 如果只有一个web节点,我们只需要简单的把规则数量查
阅读全文
摘要:分布式编程中,网络中各个节点的数据同步,数据一致性保障,事务控制,容错控保障等都需要一个稳定可靠的协调服务。Zookeeper则是分布式程序中使用最广泛的协调服务技术。从前面的kafka,storm,ignite使用文章中我们可以看到,Zookeeper广泛用于这些方分布式大数据技术的节点选举以及数
阅读全文
摘要:备忘录模式主要用于存档。游戏中我们打boss前总会存档,如果打boss失败,则读取存档,重新挑战boss。 可以看出来,备忘录模式一般包括如下数据结构 1、 存档文件:用于恢复备份场景的必要数据; 2、 存档管理器:用于管理存档,包括存档的读写与展示; 3、 被存档的对象。 下面以射击游戏的存档来举
阅读全文
摘要:工厂模式有三种:简单工厂、工厂方法、抽象工厂 一、 抽象工厂 1、 一个可以生产多种产品的工厂; 2、 不改变工厂无法生产新的产品。 二、 工厂方法 1、 每个工厂只能生产一种产品; 2、 想要生产新产品只需要新建一个工厂即可; 3、 产品过多,可能导致工厂过多。 三、 抽象工厂 1、 抽象工厂可以
阅读全文
摘要:性能监控系统中,存在告警模块和报表模块,告警结果和报表结果都需要导出。 由于告警开发进度较快,已经实现了excel导出、csv导出、zip导出功能,现在报表需要excel导出、csv导出、pdf导出功能,该如何做呢? 显然,报表不会重复开发excel导出,csv导出代码,只需要增加pdf导出代码即可
阅读全文
摘要:在很多应用场景中,分布式系统的可靠性保障尤其重要。比如电商平台中,客户的购买请求需要可靠处理,不能因为节点故障等原因丢失请求;比如告警系统中,产生的核心告警必须及时完整的知会监控人员,不能因为网络故障而丢失数据。 Storm消息可靠性保障是Storm核心特性之一,其中消息树的跟踪管理机制是Storm
阅读全文
摘要:Storm是一种分布式流式处理技术,这一点和Spark与Hadoop的批处理特性有明显的区别。 在数据连续产生,响应时延要求较低的场景中,Storm具有Spark不可比拟的优势。 网络性能监控系统中,Storm可以在秒级Dashboard监控,分钟级告警监控中大显生手。 学习任何技术,首先从Hell
阅读全文
摘要:Ignite支持基于组播,静态IP,Zookeeper,JDBC等方式发现节点,本文主要介绍基于Zookeeper的节点发现。 环境准备,两台笔记本电脑A,B。A笔记本上使用VMware虚拟机安装了Ubuntu系统C。 1、 C安装Zookeeper 由于主要测试Ignite,这里仅仅简单安装一个z
阅读全文
摘要:性能管理系统中,数据产生后需要经过采集,汇聚,入库三个流程,用户才能查询使用。 采集可以是snmp采集,也可以是ems采集;汇聚可以使storm汇聚,也可以是spark汇聚;入库可以是hdfs入库,也可以是mppdb入库。 针对不同场景,我们可以灵活选择不同的采集,汇聚,入库方式。这种一个功能需要多
阅读全文

浙公网安备 33010602011771号