RICH-ATONE

Linux输入输出重定向详解

摘要： shell中可能经常能看到：>/dev/null 2>&1 命令的结果可以通过%>的形式来定义输出分解这个组合：“>/dev/null 2>&1” 为五部分。 1：> 代表重定向到哪里，例如：echo "123" > /home/123.txt 2：/dev/null 代表空设备文件（可以理解为阅读全文

posted @ 2021-10-15 15:42 RICH-ATONE 阅读(614) 评论(0) 推荐(0)

hive on spark运行时，读取不到hive元数据问题

摘要：部署Hive On Spark时spark读取Hive元数据报错： Failed to execute spark task, with exception 'org.apache.hadoop.hive.ql.metadata.HiveException(Failed to create spar 阅读全文

posted @ 2021-10-13 15:31 RICH-ATONE 阅读(1280) 评论(0) 推荐(1)

Hadoop之HDFS(二)HDFS工作机制和集群安全模式

摘要：关于hadoop中的DataNode和namenode之间的机制与联系：写的清晰易懂，可以参考如下链接 https://segmentfault.com/a/1190000038718226 阅读全文

posted @ 2021-10-12 16:34 RICH-ATONE 阅读(141) 评论(0) 推荐(0)

Spark中的Driver和Executor详解及相关调优

摘要： Driver： ①、driver进程就是应用的main()函数并且构建sparkContext对象，当我们提交了应用之后，便会启动一个对应的driver进程，driver本身会根据我们设置的参数占有一定的资源（主要指cpu core和memory）。②、driver可以运行在master上，也可以运阅读全文

posted @ 2021-09-26 16:44 RICH-ATONE 阅读(8149) 评论(0) 推荐(0)

Linux查看物理CPU个数、核数、逻辑CPU个数

摘要：直接top，再按1 可查看总核数或者使用如下命令： # 总核数 = 物理CPU个数 X 每颗物理CPU的核数 # 总逻辑CPU数 = 物理CPU个数 X 每颗物理CPU的核数 X 超线程数 # 查看物理CPU个数 cat /proc/cpuinfo| grep "physical id"| sort 阅读全文

posted @ 2021-09-26 16:29 RICH-ATONE 阅读(286) 评论(0) 推荐(0)

shell命令查看进程id，并杀死进程，停止脚本

摘要： shell命令查看进程id，并杀死进程，停止脚本阅读全文

posted @ 2021-09-26 11:34 RICH-ATONE 阅读(384) 评论(0) 推荐(0)

Flink CDC 2.0 正式发布，详解核心改进

摘要： Flink CDC 2.0 正式发布，详解核心改进主要针对一下Flink CDC 1.x 以下痛点做了改变： Flink CDC 1.x 可以不加锁，能够满足大部分场景，但牺牲了一定的数据准确性。Flink CDC 1.x 默认加全局锁，虽然能保证数据一致性，但存在上述 hang 住数据的风险。阅读全文

posted @ 2021-09-13 17:21 RICH-ATONE 阅读(570) 评论(0) 推荐(0)

Kafka 如何保证消息的消费顺序一致性

摘要： Kafka 如何保证消息的消费顺序？在Kafka中Partition(分区)是真正保存消息的地方，发送的消息都存放在这里。Partition(分区)又存在于Topic（主题）中，并且一个Topic（主题）可以指定多个Partition(分区)。在Kafka中，只保证Partition(分区)内有阅读全文

posted @ 2021-09-10 18:59 RICH-ATONE 阅读(6013) 评论(1) 推荐(1)

Phoenix 基本安装与Sql使用

摘要：一、下载与安装 1.1、下载地址https://phoenix.apache.org/download.html#http://www.apache.org/dyn/closer.lua/phoenix/apache-phoenix-4.14.1-HBase-1.3/bin/apache-phoen 阅读全文

posted @ 2021-09-10 11:54 RICH-ATONE 阅读(1148) 评论(0) 推荐(0)

Java设计模式详解

摘要：参考： https://www.runoob.com/design-pattern/design-pattern-tutorial.html 建造者模式：场景1:（1）构造一个复杂的对象，包含很多的属性，有些属性构造的时候需要做一些校验，格式转换等可能各个部分经常面临着剧烈的变化。（2）比如：一个阅读全文

posted @ 2021-09-07 14:20 RICH-ATONE 阅读(154) 评论(0) 推荐(0)