会员
周边
众包
新闻
博问
闪存
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
可以看看你胖次吗
欲上九天揽月,纵然失败,仍与星辰同在!
管理
2021年7月25日
flink 流控机制详解
摘要: https://shimo.im/docs/kwqGkrTGPCDP8VcR/read https://www.bilibili.com/video/BV124411P7V9?from=search&seid=7160369370774006313 视频和笔记配合食用更佳。
阅读全文
posted @ 2021-07-25 11:50 可以看看你胖次吗
阅读(124)
评论(0)
推荐(0)
2021年6月1日
spark DataSe[A] 使用map或者Flatmap算子转化为DataSet[B]时,shcema变为binary
摘要: 现象: 代码如下 打印出来结果为 原因: 序列化出现了问题,这里我在前面引用的Encoder 是 implicit val odsClewordPacakgesBeanEncoder = org.apache.spark.sql.Encoders.kryo[DimIdpCourseStructInf
阅读全文
posted @ 2021-06-01 18:08 可以看看你胖次吗
阅读(155)
评论(0)
推荐(0)
2021年5月11日
Hbase 与Kudu的对比
摘要: https://zhuanlan.zhihu.com/p/44517915
阅读全文
posted @ 2021-05-11 18:06 可以看看你胖次吗
阅读(114)
评论(0)
推荐(0)
2021年3月12日
debezium 抽取大表优化
摘要: 现象 在debezium 抽取 千万级大表时,发现snapshot时同步速率在 2s 10000 row ,同时还有 young GC 信息打印 原因分析 网络原因 首先排除网络延迟的原因,ping 一下目的主机,发现 延迟在0.1ms 本身原因 查看SnapshotReader源码 // Scan
阅读全文
posted @ 2021-03-12 09:38 可以看看你胖次吗
阅读(1305)
评论(5)
推荐(2)
2021年3月5日
yarn 集群任务全部pending 事件记录
摘要: 参考:https://blog.csdn.net/zhanyuanlin/article/details/78799341 现象: 公司集群使用的是容量调度器,其中有个任务队列在yarn上查看,只占用了20%的资源,在其中提交的任务有50多个,全部都是pending状态 原因: 初步分析,表的小文件
阅读全文
posted @ 2021-03-05 12:07 可以看看你胖次吗
阅读(1092)
评论(0)
推荐(0)
2021年3月3日
flink 在使用upsert_kafka connector 时报错,找不到类Exeption: Could not find any factory for identifier 'upsert-kafka' that implements 'org.apache.flink.table.factories.DynamicTableFactory' in the classpath.
摘要: 原因:因为Flink 加载 table Factory 使用的时SPI机制,而正常的flink jar包是不包含META-INF.services 路径的,需要自己去添加 org.apache.flink.table.factories.TableFactory # Licensed to the
阅读全文
posted @ 2021-03-03 12:09 可以看看你胖次吗
阅读(4543)
评论(1)
推荐(0)
2021年2月23日
SpringBoot 项目无法启动,且无任何日志
摘要: 原因:因为整合了Dubbo,依赖之间起了冲突,用maven helper可以看到,Springboot 有5.x版本和4.x版本,但是原因未知,把dubbo服务的相关依赖重新deploy ,修复
阅读全文
posted @ 2021-02-23 11:38 可以看看你胖次吗
阅读(680)
评论(0)
推荐(0)
2020年12月13日
spark 读取csv文件字段报错
摘要: 报错信息: 解决: 添加配置 ps:spark 读取csv参数解析 https://blog.csdn.net/qq_36535820/article/details/108993618
阅读全文
posted @ 2020-12-13 11:54 可以看看你胖次吗
阅读(264)
评论(0)
推荐(0)
2020年11月28日
debezium 使用踩坑
摘要: 在已经启动后的连接器配置中table.include.list 添加了一张已有数据的表,如何为该表做snapshot > 开发环境 debezium版本是1.3.final 如题,这里要介绍一个参数 “snapshot.new.tables” ,这个参数有点神奇,是被官方雪藏起来的,官方issue给
阅读全文
posted @ 2020-11-28 12:21 可以看看你胖次吗
阅读(8388)
评论(5)
推荐(3)
2020年11月20日
hive 行列转换
摘要: https://blog.csdn.net/zryowen123/article/details/77692764 参考链接
阅读全文
posted @ 2020-11-20 17:42 可以看看你胖次吗
阅读(137)
评论(0)
推荐(0)
2020年11月13日
mac 上docker 容器动态暴露端口
摘要: 参考链接:https://www.jianshu.com/p/6aefed2be1c7 但其中有一点,就是我在 使用 screen 命令时无法使用,看网上讨论好像是个bug,https://stackoverflow.com/questions/63445657/why-i-am-getting-s
阅读全文
posted @ 2020-11-13 09:44 可以看看你胖次吗
阅读(518)
评论(0)
推荐(0)
2020年11月12日
debezium 监听 MySQL ,并用flink消费初体验
摘要: 环境准备 MySQL(开启binlog) Kafka(使用内嵌式debezium则不需要) debezium连接器 官网参考 https://debezium.io/documentation/reference/1.3/tutorial.html 在 Kafka 环境下安装 debezium 连接
阅读全文
posted @ 2020-11-12 11:07 可以看看你胖次吗
阅读(3484)
评论(0)
推荐(1)
2020年11月4日
docker 容器与宿主机间的通信
摘要: Linux Linux 安装docker后会自动配置一个docker0的网卡,这里面显示的就是宿主机的地址 https://www.jianshu.com/p/3e1fd311ba87 MAC mac 有点像虚拟机,所以网络联通还不太一样,需要用host.docker.internal https:
阅读全文
posted @ 2020-11-04 14:43 可以看看你胖次吗
阅读(1206)
评论(0)
推荐(0)
2020年10月30日
git hub 配置ssh key(pull 时报权限问题)
摘要: https://blog.csdn.net/YanceChen2013/article/details/82218356
阅读全文
posted @ 2020-10-30 16:12 可以看看你胖次吗
阅读(168)
评论(0)
推荐(0)
2020年10月22日
docker 安装 elasticSearch,kibana 等组件
摘要: ES docker run -d --net 4b61cc370852 //网络环境配置,方便与其他容器交互 -v es:/usr/share/elasticsearch/data //数据持久化 -p 9200:9200 -p 9300:9300 -e "discovery.type=single
阅读全文
posted @ 2020-10-22 10:34 可以看看你胖次吗
阅读(120)
评论(0)
推荐(1)
下一页
公告
Live2D