摘要: 前三篇博文分别记录了Eureka、Zookeeper、Consul三个服务中心,那么他们之前有何区别呢? 一: 因为不会同时存在或者同时满足C、A、P三个方面,所以只能存在cp,ap,ca三种体系, CAP的概念以及关注的点,看下图: ap:例如双11阿里,先保证高可用,可以允许数据有稍微的不一致, 阅读全文
posted @ 2022-12-21 19:24 hanease 阅读(5576) 评论(0) 推荐(0)
摘要: 1、数据采集框架 2、数据存储框架 3、分布式资源管理调度框架 4、数据计算框架 5、数据分析技术框架 6、任务调度框架 7、基础框架 8、数据检索框架 9、集群安装管理框架 总结 从这张图谱可以看到,大数据技术体系可以归纳总结为数据分析应用技术、数据管理技术、基础技术、数据安全流通技术四大方向,每 阅读全文
posted @ 2022-12-21 14:22 hanease 阅读(1219) 评论(0) 推荐(0)
摘要: 大数据总结 企业构建大数据技术体系时,会在一级架构的范围内,结合业务需要和未来规划目标,选择部分技术组件进行落地,下图罗列了各个一级架构下的核心技术组件。构建初期,一般会通过CDH或HDP的产品套件,来完成数据采集(Sqoop、Flume)、数据存储(HDFS)、资源调度(Yarn)、分布式计算引擎 阅读全文
posted @ 2022-12-21 13:55 hanease 阅读(549) 评论(0) 推荐(0)