实验室TAT节点监控-activemq+storm

TAT( Turn-around-Time)

需求

实时查看实验室各个节点运转情况

快速的定位节点瓶颈,并给出预警.

实验室业务流程包括:标本采集,物流接收,分发,分瓶(可选节点),实验室接收,样本准备,样本检验,审核,出报告,归档.

公司希望能面向管理人员,提供实时看板,一目了然的各个节点的运转状态.

比如针对分发节点有:待分发数量,分发速率,历史分发速率,平均速率,最高速率,最低速率,预计完成用时等多项指标

针对公司下辖的七个独立实验室,每日处理标本数14w,项目数200w

而针对社区实验室,设计目标为5000家实验室,日处理标本数100w,项目数千万量级

数据最多允许存在5分钟的延迟.

结合实验室特点,数据大多集中在4个小时内处理,其他时间较为空闲.

实现:

根据需求tat相关数据为中等量级

数据采集方式:修改业务系统代码,各个节点发送异步消息到activemq(中等两机数据量activemq足以支撑),因为消息的处理比采集要慢,所以使用mq作为缓冲.

数据加工:使用storm,storm消费activemq的队列

数据的存储:原始明细数据存储在es或solr中,加工后的数据存储在mysql中供web系统实时检索使用.

得益于storm架构的容错和伸缩能力,最终将tat看板数据延迟控制在5分钟内.

技术栈:activemq,storm.