文章分类 - 大数据
摘要:什么是数仓: 数据仓库本身并不“生产”任何数据,同时自身也不需要“消费”任何的数据,数据来源于外部,并且开放给外部应用,这也是为什么叫“仓库”,而不叫“工厂”的原因。 基本特征:数据仓库的目的是构建面向分析的集成化数据环境,为企业提供决策支持(Decision Support)。它出于分析性报告和决
阅读全文
摘要:企业数据管理能力成熟度模型Data Management Maturity(DMM) DMM模型包括20个数据管理过程域以及5个支持过程域。分为6个类别。每个类别包含多个过程域。这些过程域是传达模型的主题、目标、实践和工作产品示例的主要手段。组织通过完成过程域实践可构建数据管理能力,结合基础设施支持
阅读全文
摘要:在大数据时代,凡是AI类项目的落地,都需要具备数据、算法、场景、计算力四个基本元素,缺一不可。处理大数据已经不能仅仅依靠计算力就能够解决问题,计算力只是核心的基础,还需要结合不同的业务场景与算法相互结合,沉淀出一个完整的智能化平台。 一、数据中台演进的过程 第一个阶段是数据库阶段,这个阶段主要是为了
阅读全文
摘要:Spark三种部署方式 Spark应用程序在集群上部署运行时,可以由不同的组件为其提供资源管理调度服务(资源包括CPU、内存等)。比如,可以使用自带的独立集群管理器(standalone),或者使用YARN,也可以使用Mesos。因此,Spark包括三种不同类型的集群部署方式,包括standalon
阅读全文
摘要:大数据概念: "4V":数据量大、数据类型繁多(结构化/非结构化数据)、数据处理速度快(秒级响应)、价值密度低 大数据带来的思想转变: 效率而非精确度(抽样——>全样) 相关而非因果,注重相关性分析而非因果分析 关键技术:数据采集、数据存储与管理、数据处理与分析、数据隐私与安全 分布式存储——>解决
阅读全文

浙公网安备 33010602011771号