上一页 1 ··· 23 24 25 26 27 28 29 30 31 ··· 69 下一页

2022年4月8日

|NO.Z.00018|——————————|BigDataEnd|——|Hadoop&HBase.V02|——|HBase.v02|概述.v02|

摘要: 一、HBase数据模型 ### HBase的数据也是以表(有行有列)的形式存储 ~~~ HBase逻辑架构 二、HBase物理存储 三、HBase整体架构 ### Zookeeper ~~~ 实现了HMaster的高可用:保存了HBase的元数据信息,是所有HBase表的寻址入口 ~~~ 对HMas 阅读全文

posted @ 2022-04-08 15:25 yanqi_vip 阅读(20) 评论(0) 推荐(0)

|NO.Z.00017|——————————|BigDataEnd|——|Hadoop&HBase.V01|——|HBase.v01|概述.v01|

摘要: 一、HBase 简介 ### [HBase] ~~~ [HBase简介之HBase是什么] ~~~ [HBase简介之HBase特点及应用场景] ~~~ [HBase数据模型] ~~~ [HBase整体架构] ### HBase是什么 ~~~ HBase 基于 Google的BigTable论文而来 阅读全文

posted @ 2022-04-08 15:24 yanqi_vip 阅读(14) 评论(0) 推荐(0)

|NO.Z.00000|——————————|BigDataEnd|——————————————————————————————————————

摘要: NO: Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of 阅读全文

posted @ 2022-04-08 15:23 yanqi_vip 阅读(4) 评论(0) 推荐(0)

|NO.Z.10000|——————————|BigDataEnd|——————————————————————————————————————

摘要: NO: Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of 阅读全文

posted @ 2022-04-08 15:22 yanqi_vip 阅读(4) 评论(0) 推荐(0)

|NO.Z.00015|——————————|^^ 配置 ^^|——|Hadoop&Zookeeper.V15|——|Zookeeper.v15|Hadoop-HA-YARN-HA搭建|

摘要: 一、Hadoop-HA-YARN-HA搭建:YARN-HA配置 ### YARN-HA工作机制 ~~~ 官方文档:https://hadoop.apache.org/docs/stable/hadoop-yarn/hadoop-yarnsite/ResourceManagerHA.html 二、YA 阅读全文

posted @ 2022-04-08 15:21 yanqi_vip 阅读(11) 评论(0) 推荐(0)

|NO.Z.00016|——————————|BigDataEnd|——————————————————————————————————————

摘要: NO: Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of 阅读全文

posted @ 2022-04-08 15:21 yanqi_vip 阅读(5) 评论(0) 推荐(0)

|NO.Z.00014|——————————|^^ 配置 ^^|——|Hadoop&Zookeeper.V14|——|Zookeeper.v14|Hadoop-HA-HDFS-HA搭建.v02|

摘要: 一、启动HDFS-HA集群 ### 在各个JournalNode节点上, ~~~ 输入以下命令启动journalnode服务(去往HA安装目录不要使用环境变量中命令) [root@linux121 ~]# /opt/yanqi/servers/ha/hadoop-2.9.2/sbin/hadoop- 阅读全文

posted @ 2022-04-08 15:20 yanqi_vip 阅读(20) 评论(0) 推荐(0)

|NO.Z.00013|——————————|^^ 配置 ^^|——|Hadoop&Zookeeper.V13|——|Zookeeper.v13|Hadoop-HA-HDFS-HA搭建.v01|

摘要: 一、[Hadoop-HA-HDFS-HA搭建]:HDFS-HA集群配置 ### HDFS-HA集群配置地址 https://hadoop.apache.org/docs/stable/hadoop-project-dist/hadoophdfs/HDFSHighAvailabilityWithQJM 阅读全文

posted @ 2022-04-08 15:19 yanqi_vip 阅读(9) 评论(0) 推荐(0)

|NO.Z.00011|——————————|BigDataEnd|——|Hadoop&Zookeeper.V11|——|Zookeeper.v11|应用实践|分布式锁|

摘要: 一、分布式锁 ### [zookeeper] ~~~ [zookeeper应用实践之分布式锁介绍] ~~~ [zookeeper应用实践之分布式锁思路] ~~~ [zookeeper应用实践之分布式锁实现] ~~~ [zookeeper应用实践之分布式锁代码验证] ### 什么是锁 ~~~ # 在单 阅读全文

posted @ 2022-04-08 15:18 yanqi_vip 阅读(15) 评论(0) 推荐(0)

|NO.Z.00012|——————————|^^ 配置 ^^|——|Hadoop&Zookeeper.V12|——|Zookeeper.v12|hadoop-ha-hdfs工作机制|

摘要: 一、[Hadoop-HA-HDFS-HA工作机制]:HA 概述 ### [Hadoop-HA-HDFS-HA工作机制]:HA 概述 ~~~ 所谓HA(High Available),即高可用(7*24小时不中断服务)。 ~~~ # 实现高可用最关键的策略是消除单点故障。 ~~~ Hadoop-HA严 阅读全文

posted @ 2022-04-08 15:18 yanqi_vip 阅读(10) 评论(0) 推荐(0)

|NO.Z.00008|——————————|BigDataEnd|——|Hadoop&Zookeeper.V08|——|Zookeeper.v08|内部原理|Leader选举|ZAB一致性协议.v02|

摘要: 一、ZAB一致性协议 ### 分布式数据一致性问题 ~~~ # 为什么会出现分布式数据一致性问题? ~~~ 将数据复制到分布式部署的多台机器中可以消除单点故障防止系统由于某台(些)机器宕机导致的不可用。 ~~~ 通过负载均衡技术,能够让分布在不同地方的数据副本全都对外提供服务。有效提高系统性能。 ~ 阅读全文

posted @ 2022-04-08 15:17 yanqi_vip 阅读(22) 评论(0) 推荐(0)

|NO.Z.00009|——————————|BigDataEnd|——|Hadoop&Zookeeper.V09|——|Zookeeper.v09|应用实践|服务器动态上下线.v01|

摘要: 一、Zookeeper应用实践 ### [zookeeper] ~~~ [zookeeper应用实践之服务器动态上下线监听] ~~~ [zookeeper应用实践之服务器动态上下线总结] ### Zookeeper实践 ~~~ ZooKeeper是一个典型的发布/订阅模式的分布式数据管理与协调框架, 阅读全文

posted @ 2022-04-08 15:17 yanqi_vip 阅读(10) 评论(0) 推荐(0)

|NO.Z.00010|——————————|BigDataEnd|——|Hadoop&Zookeeper.V10|——|Zookeeper.v10|应用实践|服务器动态上下线.v02|

摘要: 一、编译打印 ### 运行server ~~~ 修改配置参数server端口参数3333 ~~~ server端口参数4444 ### 运行服务并打印 ~~~ # 运行服务器3333 D:\JAVA\jdk1.8.0_231\bin\java.exe "-javaagent:D:\IntelliJI 阅读全文

posted @ 2022-04-08 15:17 yanqi_vip 阅读(12) 评论(0) 推荐(0)

|NO.Z.00007|——————————|BigDataEnd|——|Hadoop&Zookeeper.V07|——|Zookeeper.v07|内部原理|Leader选举|ZAB一致性协议.v01|

摘要: 一、Zookeeper内部原理 ~~~ [zookeeper内部原理之Leader选举] ~~~ [zookeeper内部原理之ZAB一致性协议] ### Leader选举:选举机制 ~~~ # 半数机制: ~~~ 集群中半数以上机器存活,集群可用。所以Zookeeper适合安装奇数台服务器。 ~~ 阅读全文

posted @ 2022-04-08 15:16 yanqi_vip 阅读(9) 评论(0) 推荐(0)

|NO.Z.00004|——————————|BigDataEnd|——|Hadoop&Zookeeper.V04|——|Zookeeper.v04|命令操作|

摘要: 一、Zookeeper的基本使用 ### ZooKeeper命令行操作 ~~~ 现在已经搭建起了一个能够正常运行的zookeeper服务了,所以接下来, ~~~ 就是来借助客户端来将zookeeper的数据节点进行操作 ~~~ # 首先,进入到zookeeper的bin目录之后通过zkClient进 阅读全文

posted @ 2022-04-08 15:15 yanqi_vip 阅读(11) 评论(0) 推荐(0)

|NO.Z.00005|——————————|BigDataEnd|——|Hadoop&Zookeeper.V05|——|Zookeeper.v05|开源客户端监听器|获取节点数据.v01|

摘要: 一、Zookeeper-开源客户端 ### [zookeeper] ~~~ [Zookeeper开源客户端之监听节点变化] ~~~ [Zookeeper开源客户端之监听器] ~~~ [Zookeeper开源客户端之获取数据节点存在/更新/删除] ### ZkClient ~~~ # ZkClient 阅读全文

posted @ 2022-04-08 15:15 yanqi_vip 阅读(12) 评论(0) 推荐(0)

|NO.Z.00006|——————————|BigDataEnd|——|Hadoop&Zookeeper.V06|——|Zookeeper.v06|开源客户端监听器|获取节点数据.v02|

摘要: 一、监听节点变化 ### 监听节点变化 package com.yanqi.zk.demo; import org.I0Itec.zkclient.IZkChildListener; import org.I0Itec.zkclient.ZkClient; import org.apache.zoo 阅读全文

posted @ 2022-04-08 15:15 yanqi_vip 阅读(16) 评论(0) 推荐(0)

|NO.Z.00002|——————————|^^ 部署 ^^|——|Hadoop&Zookeeper.V02|——|Zookeeper.v02|环境搭建|二进制|

摘要: 一、[Zookeeper集群模式环境搭建] :Zookeeper环境搭建 ### Zookeeper的搭建方式 ~~~ # Zookeeper安装方式有三种,单机模式和集群模式以及伪集群模式。 ~~~ 单机模式:Zookeeper只运行在一台服务器上,适合测试环境; ~~~ 伪集群模式:就是在一台服 阅读全文

posted @ 2022-04-08 15:14 yanqi_vip 阅读(17) 评论(0) 推荐(0)

|NO.Z.00003|——————————|BigDataEnd|——|Hadoop&Zookeeper.V03|——|Zookeeper.v03|数据结构|ZNode类型|Watcher机制|

摘要: 一、Zookeeper数据结构与监听机制 ~~~ [Zookeepe数据结构与监听之ZNode类型] ~~~ [Zookeepe数据结构与监听之ZNode状态信息] ~~~ [Zookeepe数据结构与监听之Watcher机制] ### ZooKeeper数据模型Znode ~~~ 在ZooKeep 阅读全文

posted @ 2022-04-08 15:14 yanqi_vip 阅读(14) 评论(0) 推荐(0)

|NO.Z.00001|——————————|BigDataEnd|——|Hadoop&Zookeeper.V01|——|Zookeeper.v01|架构特点|

摘要: 一、大纲 ### Zookeeper简介 ~~~ Zookeeper是什么?【熟悉】 ~~~ zookeeper的架构组成【重点掌握】 ~~~ Zookeeper环境搭建【熟悉】 ~~~ Zookeeper数据结构与监听机制【重点掌握】 ~~~ Zookeeper的基本使用【练习】 ~~~ Zook 阅读全文

posted @ 2022-04-08 15:13 yanqi_vip 阅读(9) 评论(0) 推荐(0)

|NO.Z.00000|——————————|BigDataEnd|——————————————————————————————————————

摘要: NO: Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of 阅读全文

posted @ 2022-04-08 15:13 yanqi_vip 阅读(3) 评论(0) 推荐(0)

|NO.Z.10000|——————————|BigDataEnd|——————————————————————————————————————

摘要: NO: Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of 阅读全文

posted @ 2022-04-08 15:07 yanqi_vip 阅读(5) 评论(0) 推荐(0)

|NO.Z.00011|——————————|BigDataEnd|——|Hadoop&Impala.V11|——|Impala.v11|集群优化.v02|

摘要: 一、Impala优化 ### Impala优化 cloudera官网上的Impala文档,原名为《Impala Performance Guidelines and Best Practices》。 主要介绍了为了提升impala性能应该考虑的一些事情,结合实际考虑: ### 基本优化策略 ~~~ 阅读全文

posted @ 2022-04-08 15:06 yanqi_vip 阅读(14) 评论(0) 推荐(0)

|NO.Z.00012|——————————|BigDataEnd|——————————————————————————————————————

摘要: NO: Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of 阅读全文

posted @ 2022-04-08 15:06 yanqi_vip 阅读(6) 评论(0) 推荐(0)

|NO.Z.00008|——————————|BigDataEnd|——|Hadoop&Impala.V08|——|Impala.v08|使用操作.v02|

摘要: 一、Impala sql语法 ### 数据库特定语句:创建数据库 ~~~ # CREATE DATABASE语句用于在Impala中创建新数据库。 CREATE DATABASE IF NOT EXISTS database_name; ~~~ # 这⾥,IF NOT EXISTS是一个可选的子句。 阅读全文

posted @ 2022-04-08 15:05 yanqi_vip 阅读(14) 评论(0) 推荐(0)

|NO.Z.00009|——————————|BigDataEnd|——|Hadoop&Impala.V09|——|Impala.v09|JDBC方式查询数据|

摘要: 一、Impala的JDBC⽅式查询 ### Impala的JDBC⽅式查询 ~~~ 在实际工作当中,因为impala的查询比较快,所以可能有会使用到impala来做数据库查询的情况, ~~~ 我们可以通过java代码来进行操作impala的查询 ### 导⼊jar包 <dependencies> < 阅读全文

posted @ 2022-04-08 15:05 yanqi_vip 阅读(7) 评论(0) 推荐(0)

|NO.Z.00010|——————————|BigDataEnd|——|Hadoop&Impala.V10|——|Impala.v10|集群实现|负载均衡.v01|

摘要: 一、Impala进阶 ### Impala的负载均衡 ~~~ Impala主要有三个组件,分别是statestore,catalog和impalad, ~~~ 对于Impalad节点,每一个节点都可以接收客户端的查询请求, ~~~ 并且对于连接到该Impalad的查询还要作为Coordinator节 阅读全文

posted @ 2022-04-08 15:05 yanqi_vip 阅读(21) 评论(0) 推荐(0)

|NO.Z.00007|——————————|BigDataEnd|——|Hadoop&Impala.V07|——|Impala.v07|使用操作.v01|

摘要: 一、Impala的使⽤ ### [交互查询工具Impala] ~~~ [Impala的使用-Impala-SQL语法] ~~~ [Impala的使用-Impala-导入数据] ### Impala的使用 ~~~ # Impala的核心开发语言是sql语句, ~~~ Impala有shell命令行窗口 阅读全文

posted @ 2022-04-08 15:04 yanqi_vip 阅读(20) 评论(0) 推荐(0)

|NO.Z.00004|——————————|^^ 部署 ^^|——|Hadoop&Impala.V04|——|Impala.v04|环境部署.v02|

摘要: 一、短路读取配置步骤 ### 创建短路读取本地中转站 ~~~ DataNode启动失败有可能是该文件夹权限问题。 ~~~ 所有节点创建一下目录 [root@linux121 ~]# mkdir -p /var/lib/hadoop-hdfs ### 修改hdfs-site.xml [root@lin 阅读全文

posted @ 2022-04-08 15:03 yanqi_vip 阅读(13) 评论(0) 推荐(0)

|NO.Z.00005|——————————|BigDataEnd|——|Hadoop&Impala.V05|——|Impala.v05|实验案例|

摘要: 一、Impala⼊门案例 ### Impala⼊门案例 ~~~ 使⽤用Yum⽅式安装Impala后,impala-shell可以全局使用; ~~~ 进入impala-shell命令⾏impala-shell进⼊到impala的交互窗⼝ [root@linux123 ~]# impala-shell 阅读全文

posted @ 2022-04-08 15:03 yanqi_vip 阅读(8) 评论(0) 推荐(0)

|NO.Z.00006|——————————|BigDataEnd|——|Hadoop&Impala.V06|——|Impala.v06|架构原理|

摘要: 一、Imapla的架构原理 ### [交互查询工具Impala] ~~~ [Impala架构原理] ~~~ [Impala单机执行计划] ~~~ [Impala分布式执行计划] ~~~ [Impala查询流程分析] ### Impala的组件 ~~~ Impala是一个分布式,大规模并行处理(MPP 阅读全文

posted @ 2022-04-08 15:03 yanqi_vip 阅读(16) 评论(0) 推荐(0)

|NO.Z.00003|——————————|^^ 部署 ^^|——|Hadoop&Impala.V03|——|Impala.v03|环境部署.v01|

摘要: 一、安装Impala ### [交互查询工具Impala] ~~~ [Impala的安装及入门案例-安装步骤] ~~~ [Impala的安装及入门案例-配置详解] 二、集群规划 服务名称 linux121 linux122 linux123 impala-catalogd 不安装 不安装 安装 im 阅读全文

posted @ 2022-04-08 15:02 yanqi_vip 阅读(14) 评论(0) 推荐(0)

|NO.Z.00001|——————————|BigDataEnd|——|Hadoop&Impala.V01|——|Impala.v01|概述|

摘要: 一、Impala概述 ### [交互查询工具Impala] ~~~ [交互查询工具Impala] ~~~ [Impala的优势] ~~~ [Impala的缺点及适用场景] ### Impala大纲 ~~~ 第 1 部分 Impala概述(Impala是什么,优势,劣势,与Hive对比) ~~~ 第 阅读全文

posted @ 2022-04-08 15:01 yanqi_vip 阅读(44) 评论(0) 推荐(0)

|NO.Z.00002|——————————|^^ 配置 ^^|——|Hadoop&Impala.V02|——|Impala.v02|环境准备|网络yum源|

摘要: 一、集群准备 ### [交互查询工具Impala] ~~~ [Impala的安装及入门案例-准备环境] ~~~ [Impala的安装及入门案例-制作网络源] ### 安装Hadoop,Hive ~~~ # Impala的安装需要提前装好Hadoop,Hive这两个框架, ~~~ hive需要在所有的 阅读全文

posted @ 2022-04-08 15:01 yanqi_vip 阅读(11) 评论(0) 推荐(0)

|NO.Z.00000|——————————|BigDataEnd|——————————————————————————————————————

摘要: NO: Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of 阅读全文

posted @ 2022-04-08 15:00 yanqi_vip 阅读(12) 评论(0) 推荐(0)

|NO.Z.00059|——————————|BigDataEnd|——|Hadoop&Hadoop常用命令.V00|——|Hadoop生态圈v00|常用命令|

摘要: 一、常用命令 序号 命令 类 说明 1 import ImportTool 将数据导入到集群 2 export ExportTool 将集群数据导出 3 codegen CodeGenTool 获取数据库中某张表数据生成Java并打包Jar 4 create-hive-table CreateHiv 阅读全文

posted @ 2022-04-08 14:59 yanqi_vip 阅读(32) 评论(0) 推荐(0)

|NO.Z.00060|——————————|BigDataEnd|——————————————————————————————————————

摘要: NO: Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of 阅读全文

posted @ 2022-04-08 14:59 yanqi_vip 阅读(12) 评论(0) 推荐(0)

|NO.Z.10000|——————————|BigDataEnd|——————————————————————————————————————

摘要: NO: Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of 阅读全文

posted @ 2022-04-08 14:59 yanqi_vip 阅读(7) 评论(0) 推荐(0)

|NO.Z.00058|——————————|BigDataEnd|——————————————————————————————————————

摘要: NO: Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of 阅读全文

posted @ 2022-04-08 14:58 yanqi_vip 阅读(8) 评论(0) 推荐(0)

|NO.Z.00055|——————————|BigDataEnd|——|Hadoop&Sqoop.V03|——|Sqoop.v03|MySQL导入到Hive|

摘要: 一、MySQL 到 Hive ### MySQL 到 Hive ~~~ 导入:数据进入大数据平台:import ~~~ 导出:数据离开大数据平台:export ### 在 hive 中创建表: [root@linux123 ~]# hive hive (default)> use mydb; ~~~ 阅读全文

posted @ 2022-04-08 14:57 yanqi_vip 阅读(21) 评论(0) 推荐(0)

上一页 1 ··· 23 24 25 26 27 28 29 30 31 ··· 69 下一页

导航