摘要: public class QuickwitSinkTask extends BkMetricSink<String, String> { private static final Logger log = LoggerFactory.getLogger(QuickwitSinkTask.class) 阅读全文
posted @ 2023-05-07 17:00 马晟 阅读(11) 评论(0) 推荐(0) 编辑
摘要: # 查看进程状态 ps aux # 查看系统内核信息 uname -a # 查看系统版本信息 cat /etc/redhat-release # 查看系统登录记录 last # 执行历史命令 !history编码 # 返回上一次的目录 cd - # 查看文本内容时显示行号 cat -n xx # 查 阅读全文
posted @ 2023-02-10 01:26 马晟 阅读(12) 评论(0) 推荐(0) 编辑
摘要: Messages Pulsar 中的基本单位 包含以下部分: Value:消息携带的数据 Key:消息 Key,可以用于主题合并(同个 Key 保留最新消息) Properties:用户自定义配置 Producer name:生产者名称,没有声明使用默认的 Topic name:消息将要发送到的 t 阅读全文
posted @ 2022-10-20 14:48 马晟 阅读(188) 评论(0) 推荐(0) 编辑
摘要: 文档地址:https://pulsar.apache.org/docs/getting-started-standalone 安装 Pulsar standalone 模式 系统要求 64位系统 JDK8以后版本 默认情况下,Pulsar分配 2G JVM 堆内存,可以通过对 conf/pulsar 阅读全文
posted @ 2022-10-18 22:19 马晟 阅读(414) 评论(0) 推荐(0) 编辑
摘要: 架构设计 主要由三部分组成: Broker集群:一个或多个Broker节点,负责接收生产者发送的消息,将消息转发给BookKeeper存储,以及将消息投递给消费者,完成负载均衡、Schema校验、Ledger自动更新、ACK管理等 BookKeeper集群:一个或多个Bookie节点组成,负责消息持 阅读全文
posted @ 2022-10-15 17:05 马晟 阅读(218) 评论(0) 推荐(0) 编辑
摘要: 基本概念 订阅组:类似于Kafka中的消费者组,不同订阅组之间消费消息互不干扰 主题:分为非分区主题和分区主题 非分区主题:一个主题和一个Broker绑定 分区主题:由一组非分区内部主题组成,每个内部主题绑定一个Broker(消息可以发送到多个Broker,避免受限于单节点性能) Broker:服务 阅读全文
posted @ 2022-10-15 16:25 马晟 阅读(598) 评论(0) 推荐(0) 编辑
摘要: 2.DataStream 2.1 主要组成 2.1.1 主要成员 DataStream代表一系列同类型数据的集合,可以通过转换操作生成新的DataStream DataStream用于表达业务转换逻辑,实际上并没有存储真实数据 主要包括两个成员: StreamExecutionEnvironment 阅读全文
posted @ 2022-03-23 00:17 马晟 阅读(274) 评论(0) 推荐(0) 编辑
摘要: 1.1 下载源码并编译 git clone https://github.com/apache/flink.git cd flink git checkout -b dev-1.14 remotes/origin/release-1.14 mvn clean install -DskipTests 阅读全文
posted @ 2022-03-21 23:15 马晟 阅读(845) 评论(0) 推荐(0) 编辑
摘要: 1.AQE(Adaptive Query Execution) 自适应查询执行 默认不开启,通过设置spark.sql.adaptive.enabled=true开启 主要包括三方面: Join策略调整:运行时动态的将原来的Shuffle Join调整为Broadcast Join,依赖Shuffl 阅读全文
posted @ 2022-02-16 23:42 马晟 阅读(738) 评论(0) 推荐(1) 编辑
摘要: 1.概述 优点:轻量、业务隔离、标准交付 chroot:改变某个进程的根目录,使得该程序不能访问目录之外的其他目录,和容器类似 Docker利用Namespace做主机名、网络、PID等资源的隔离,用Cgroups对进程或者进程组做资源(CPU、内存等)限制,联合文件系统用于镜像构建和容器运行环境 阅读全文
posted @ 2021-10-11 00:46 马晟 阅读(35) 评论(0) 推荐(0) 编辑