摘要: 删除 删除未在他表出现的数据 下面有一条效率较差的删除语句,主要功能是将t1表中id未出现在t2表的记录删除。效率差的原因是in中用了子查询,导致删除语句不会走索引,从而导致锁全表,继而导致删除效率差。 delete from t1 where id not in ( select id from 阅读全文
posted @ 2025-07-30 14:10 rusthx 阅读(18) 评论(0) 推荐(0)
摘要: 作者由于水平问题,文中也许有一些错误遗漏的地方,欢迎联系指正(2024087171@qq.com) 简介 参考资料:https://blog.csdn.net/weixin_42868529/article/details/84622803 Shuffle 过程本质上都是将 Map 端获得的数据使用 阅读全文
posted @ 2025-07-30 14:09 rusthx 阅读(6) 评论(0) 推荐(0)
摘要: 参考资料:《SQL进阶》P106 (鹿书) 关系(表)结构 现有一张住宿表(stay_people)如下 guest(入住客人) start_date(入住时间) end_date(退房时间) 阿良良木历 2006-10-26 2006-10-27 阿良良木月火 2006-10-28 2006-10 阅读全文
posted @ 2025-07-30 14:09 rusthx 阅读(4) 评论(0) 推荐(0)
摘要: 前置条件 需要部署好Hadoop集群和zookeeper集群 上传软件包 下载hbase包,上传到虚拟机或者服务器中。放在适合的位置。我放在了/usr/local/下 下载链接:https://archive.apache.org/dist/hbase/2.6.2/hbase-2.6.2-bin.t 阅读全文
posted @ 2025-07-30 14:09 rusthx 阅读(16) 评论(0) 推荐(0)
摘要: 下载apache服务器 sudo apt-get update sudo apt-get install apache2 可以用apache2 -v查看版本 此时可以在浏览器中输入Ubuntu的ip地址访问apache服务器 修改默认网页。有两种方式,apache服务器的默认网页是/var/www/ 阅读全文
posted @ 2025-07-30 14:09 rusthx 阅读(123) 评论(0) 推荐(0)
摘要: Kafka3依赖Zookeeper进行元数据管理,分为Scala2.12和Scala2.13编写的两个版本。 而Kafka4则移除了对Zookeeper的依赖,采用KRaft协议确保一致性。 同时需要注意的是Kafka3的运行时环境(JRE)是Java8,而Kafka4的运行时环境是Java17。 阅读全文
posted @ 2025-07-30 14:08 rusthx 阅读(49) 评论(0) 推荐(0)
摘要: 参考:尚硅谷Hadoop课程。 CSDN相关教程 在搭建Hadoop集群前需要先搭建好Ubuntu虚拟机,具体可参考下面的教程。 前置虚拟机搭建 本文搭建了三台虚拟机,其中hadoop1是主节点,主机名与ip对应关系如下。 如果你想抄我的配置,不想在部署的时候修改ip,你得先在vmvare里点击左上 阅读全文
posted @ 2025-07-30 14:08 rusthx 阅读(138) 评论(0) 推荐(0)
摘要: 主从复制可以用来做数据库的实时备份,保证数据的完整性;也可以做读写分离,提升数据库系统整体的读写性能。 主从复制原理 参考资料:https://xiaolincoding.com/mysql/log/how_update.html#主从复制是怎么实现 MySQL集群的主从复制过程梳理成3个阶段: 写 阅读全文
posted @ 2025-07-30 12:59 rusthx 阅读(10) 评论(0) 推荐(0)
摘要: 定义 数据库死锁是在多个事务执行过程中发生的一种状态,其中每个事务都在等待其他事务释放它们需要的资源,而这些资源又被其他事务占用。这种相互等待的情况导致事务无法继续执行,因为没有任何事务能够获取它们所需的全部资源来完成操作。 死锁死循环四要素 互斥条件:指进程对所分配到的资源进行排它性使用,即在一段 阅读全文
posted @ 2025-07-30 12:28 rusthx 阅读(1) 评论(0) 推荐(0)
摘要: DataX介绍 DataX的Github介绍如下: DataX 是阿里云 DataWorks数据集成 的开源版本,在阿里巴巴集团内被广泛使用的离线数据同步工具/平台。DataX 实现了包括 MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、Hive、ADS、 阅读全文
posted @ 2025-07-30 12:26 rusthx 阅读(97) 评论(0) 推荐(0)