文章分类 -  架构

摘要:logstash官方提供的插件安装方法是: bin/plugin install logstash-output-webhdfs 按照此方法,不出意料肯定会出现以下错误: [ec2-user@ip-xxx-xxx-xxx-xxx logstash-2.3.0]$ bin/plugin install 阅读全文
posted @ 2020-08-19 16:37 开发软件的米良 阅读(928) 评论(0) 推荐(0)
摘要:使用Vagrant创建CentOS虚拟机 Vagrant是一款由HashiCorp公司提供的,用于快速构建虚拟机环境的软件。本节我们将使用Vagrant结合Oracle VM VirtualBox快速地在win10环境下构建CentOS7虚拟机。在此之前需要先安装好 Vagrant 和 Virtua 阅读全文
posted @ 2020-08-15 12:18 开发软件的米良 阅读(363) 评论(0) 推荐(0)
摘要:DevOps(Development和Operations的组合词)是一组过程、方法与系统的统称,用于促进开发(应用程序/软件工程)、技术运营和质量保障(QA)部门之间的沟通、协作与整合。 它是一种重视“软件开发人员(Dev)”和“IT运维技术人员(Ops)”之间沟通合作的文化、运动或惯例。透过自动 阅读全文
posted @ 2020-08-13 10:06 开发软件的米良 阅读(110) 评论(0) 推荐(0)
摘要:一、大数据演进,从数据仓库到数据中台 第一阶段 21 世纪的第一个 10 年,企业级数据仓库(EDW)从萌芽到蓬勃发展,“IOT”( IBM、Oracle、Teradata) 占领了大部分市场,提供数据仓库建设从硬件、软件到实施的整体方案。 这个时代的数据仓库实施不仅需要购买大(中、小)型机,配套商 阅读全文
posted @ 2020-08-11 11:58 开发软件的米良 阅读(521) 评论(0) 推荐(0)
摘要:1. 数据采集传输 这个一般对应于公司的日志平台,任务是将数据采集后缓存在某个地方,供后续的计算流程进行消费使用。针对不同的数据来源有各自的采集方式,从 APP/服务器 日志,到业务表,还有各种 API 接口及数据文件等等。其中因为日志数据有数据量多,数据结构多样,产生环境复杂等特点,属于「重点关照 阅读全文
posted @ 2020-08-11 11:22 开发软件的米良 阅读(7974) 评论(0) 推荐(0)
摘要:一、大数据计算组件 Spark Flink Hive DataSphere 二、分布式存储 HDFS Hbase Doris 三、资源调度 Yarn Dolphin 四、数据仓库常用工具 Pig Hive kylin Spark SQL Impala Phoenix ElasticSearch Lo 阅读全文
posted @ 2020-08-11 10:04 开发软件的米良 阅读(782) 评论(0) 推荐(2)
该文被密码保护。
posted @ 2020-08-11 09:55 开发软件的米良 阅读(0) 评论(0) 推荐(0)
该文被密码保护。
posted @ 2020-08-10 14:09 开发软件的米良 阅读(0) 评论(0) 推荐(0)
该文被密码保护。
posted @ 2020-08-10 14:06 开发软件的米良 阅读(3) 评论(0) 推荐(0)
该文被密码保护。
posted @ 2020-08-10 13:39 开发软件的米良 阅读(4) 评论(0) 推荐(0)
该文被密码保护。
posted @ 2020-08-10 13:31 开发软件的米良 阅读(7) 评论(0) 推荐(0)
摘要:阿里云云栖号 阿里云官网内容平台!微信号yunqiinsight 1、Spring Cloud Alibaba 是什么 Spring Cloud Alibaba 是阿里巴巴提供的微服务开发一站式解决方案,是阿里巴巴开源中间件与 Spring Cloud 体系的融合。 马老师左手双十一,右手阿里开源组 阅读全文
posted @ 2020-07-27 15:14 开发软件的米良 阅读(162) 评论(0) 推荐(0)
摘要:https://blog.csdn.net/web_csdn_share/article/details/79243308 下面是我整理的常用 Git 命令清单。几个专用名词的译名如下。 Workspace:工作区 Index / Stage:暂存区 Repository:仓库区(或本地仓库) Re 阅读全文
posted @ 2020-07-13 11:02 开发软件的米良 阅读(65) 评论(0) 推荐(0)
摘要:分库分表的基本思想 Sharding的基本思想就要把一个数据库切分成多个部分放到不同的数据库(server)上,从而缓解单一数据库的性能问题。不太严格的讲,对于海量数据的数据库,如果是因为表多而数据多,这时候适合使用垂直切分,即把关系紧密(比如同一模块)的表切分出来放在一个server上。如果表并不 阅读全文
posted @ 2020-07-13 10:57 开发软件的米良 阅读(254) 评论(0) 推荐(0)
摘要:RPM安装方式 https://mirrors.tuna.tsinghua.edu.cn/gitlab-ce/yum/el7 【最好给服务器分配至少4G内存】 先检查一下依赖:sshd [root@localhost soft]# rpm -qa|grep openssh-server openss 阅读全文
posted @ 2020-07-10 23:09 开发软件的米良 阅读(1062) 评论(0) 推荐(0)
摘要:最近Shardingsphere在Apache Software Foundation 简称ASF 毕业成为Apache顶级项目,也是目前ASF收个分布式数据库中间件项目,未来可期啊,今天我们就搭建一下springboot整合Shardingsphere4.0版本。 依赖: jdk1.8 maven 阅读全文
posted @ 2020-07-09 16:16 开发软件的米良 阅读(1723) 评论(0) 推荐(0)
摘要:Real_man 32018.09.19 20:37:28字数 570阅读 35,440 稍具规模一点的公司都会搭建属于自己的git,svn,而内部git用的最多的则是gitlab,虽然官网已经提供了非常多的功能,但内网搭建更能保证项目的私有性,只有公司内部员工才可以访问,更加安全。 这里演示git 阅读全文
posted @ 2020-07-09 13:37 开发软件的米良 阅读(719) 评论(0) 推荐(0)
摘要: 阅读全文
posted @ 2020-07-09 11:53 开发软件的米良 阅读(550) 评论(0) 推荐(0)
摘要: 阅读全文
posted @ 2020-07-09 10:31 开发软件的米良 阅读(167) 评论(0) 推荐(0)
摘要: 阅读全文
posted @ 2020-07-09 10:13 开发软件的米良 阅读(462) 评论(0) 推荐(0)