摘要: 一、MapReduce设计理念 map >映射 reduce >归纳,聚合 mapreduce必须构建在hdfs之上的一种大数据离线计算框架 ​ 在线:实时数据处理 ​ 离线:数据处理时效性没有在线那么强,但是相对也需要很快得到结果 mapreduce不会马上得到结果,他会有一定的延时(磁盘IO) 阅读全文
posted @ 2024-11-11 09:02 bjynjj 阅读(27) 评论(0) 推荐(0)
摘要: hive-3.1.2分布式搭建文档 1、下载,上传,解压,配置环境变量 # 1、解压(解压到上级目录) tar -zxvf apache-hive-3.1.2-bin.tar.gz -C.. # 2、重名名 mv apache-hive-3.1.2-bin hive-3.1.2 # 3、配置环境变量 阅读全文
posted @ 2024-11-08 19:49 bjynjj 阅读(411) 评论(0) 推荐(0)
摘要: 1、上传安装包到master并解压 tar -xvf zookeeper-3.5.7.tar.gz 2、配置环境变量 vim /etc/profile export ZOOKEEPER_HOME=/usr/local/soft/zookeeper-3.5.7 export PATH=$PATH:$Z 阅读全文
posted @ 2024-11-04 20:02 bjynjj 阅读(21) 评论(0) 推荐(0)
摘要: Hadoop高可用的理解 Hadoop高可用(HA)是为了解决Hadoop分布式文件系统(HDFS)中的单点故障问题而引入的特性。在Hadoop 2.x版本之前,HDFS集群中的NameNode是单点故障源,即如果NameNode宕机,整个HDFS集群将不可用,直到NameNode被重启或在另一台机 阅读全文
posted @ 2024-11-04 19:28 bjynjj 阅读(79) 评论(0) 推荐(0)
摘要: 一.检查虚拟机 1.检查虚拟机是正常否启动 首先,自己要先搭建完成三台虚拟机 2.MAC地址 在设置里检查三台虚拟机的MAC地址是否不同,如果相同,需要刷新以下 二.搭建前环境准备 1.时间同步 检查三台虚拟机的时间是否都是同步的 2.关闭防火墙 systemctl stop firewalld.s 阅读全文
posted @ 2024-11-01 19:41 bjynjj 阅读(426) 评论(0) 推荐(0)
摘要: Redis高级部分:集群、发布订阅机制详解 Redis 主从复制 1. 主从复制概念 主从复制架构主要用于数据的冗余备份,从节点仅用于同步数据。它无法自动处理主节点故障转移。 2. 主从复制架构图 3. 搭建主从复制步骤 3.1 准备环境 3.2 配置文件 拷贝源码中的redis.conf到每个目录 阅读全文
posted @ 2024-10-29 21:37 bjynjj 阅读(205) 评论(0) 推荐(0)
摘要: 一,Redis持久化机制详细博客笔记 1. Redis持久化机制概述 Redis是一个基于内存的高性能键值对数据库,其所有数据都存储在内存中。为了确保数据的安全性,防止服务器崩溃导致数据丢失,Redis提供了持久化机制,将内存中的数据保存到磁盘上。Redis支持两种持久化方式:RDB(快照持久化)和 阅读全文
posted @ 2024-10-28 21:10 bjynjj 阅读(115) 评论(0) 推荐(0)
摘要: NoSQL简介 NoSQL数据库是一种非关系型数据库,它在处理大规模、高并发的动态网站数据时具有明显优势。NoSQL数据库的出现是为了解决传统关系数据库在处理大数据量和高并发请求时遇到的性能瓶颈。NoSQL数据库的设计允许它们在分布式环境中更有效地扩展,同时提供灵活的数据模型来适应不断变化的数据需求 阅读全文
posted @ 2024-10-26 10:47 bjynjj 阅读(1745) 评论(1) 推荐(2)
摘要: 超详细ClickHouse学习笔记 一、ClickHouse概述 ClickHouse是一个用于在线分析处理查询(OLAP)的列式数据库管理系统(DBMS)。它由Altinity公司开发,支持线性扩展和高性能的数据压缩。ClickHouse以其卓越的数据处理速度而闻名,特别适合于大规模数据集的实时查 阅读全文
posted @ 2024-10-24 21:36 bjynjj 阅读(1315) 评论(0) 推荐(2)
摘要: ClickHouse安装部署博客笔记(RPM版) 前言 ClickHouse是一个高性能的列式数据库,专为在线分析处理(OLAP)而设计。它能够实时生成分析数据报告,并支持对大数据进行快速的查询。本文将带你一步步完成ClickHouse的单机安装部署,确保你能够顺利上手这个强大的数据库系统。 第1步 阅读全文
posted @ 2024-10-24 19:58 bjynjj 阅读(3595) 评论(0) 推荐(2)