摘要: 一、简介 下载源码:git clone https://github.com/alibaba/canal.git canal.adapter: 作用1:对接上游消息,包括kafka、rocketmq、canal-server 作用2:实现mysql数据的增量同步 作用3:实现mysql数据的全量同步 阅读全文
posted @ 2021-09-24 19:57 Robots2 阅读(870) 评论(0) 推荐(0)
摘要: 一、内存Job管理模式yarn-per-job 使用介绍:常用的模式 二、内存集中管理模式yarn-session 使用介绍:当作业很少并且都较小,能快速执行完成时,可以使用。否则一般不会使用该模式 第一步:yarn-session.sh(开辟资源) 第二步:flink run(提交任务) 阅读全文
posted @ 2021-09-10 18:47 Robots2 阅读(364) 评论(0) 推荐(0)
摘要: 一、参数介绍 作业模式:yarn-per-job 基本参数 描述 -ynm(Custom Yarnname) 自定义的Yarn名字 -yqu 指定Yarn队列名 -yn (TaskManager) Flink的TaskManager数目,Flink引擎运行需要由一个JobManager以及若干个Ta 阅读全文
posted @ 2021-09-10 16:54 Robots2 阅读(2587) 评论(0) 推荐(0)
摘要: 一、查看文件 1、查看目录下文件 hdfs dfs -ls /user/hadoopDemo 2、查看文件内容 hdfs dfs -cat /user/hadoopDemo/hadoop/output hdfs dfs -text /user/hive/47-0000000001407771492 阅读全文
posted @ 2021-09-07 19:57 Robots2 阅读(486) 评论(0) 推荐(0)
摘要: 一、修改表结构 1、添加删除分区 添加分区:alter table app.app_tabe1 add if not exists partition(dt = '20210621', hour = '17'); 删除分区:alter table app.app_tab1 drop partitio 阅读全文
posted @ 2021-09-02 20:48 Robots2 阅读(142) 评论(0) 推荐(0)
摘要: 一、下载安装 sudo apt-get install mysql-server 二、初始化配置 查看密码:sudo more /etc/mysql/debian.cnf 连接:mysql -uroot -h 127.0.0.1 -p 修改初始密码: use mysql; update mysql. 阅读全文
posted @ 2021-08-30 21:01 Robots2 阅读(221) 评论(0) 推荐(0)
摘要: 一、建表语句 create table target_tab( version_flag bigint comment '版本标签 2:web延迟 3ios直播延迟 4安卓直播延迟', query_version string comment '查询版本号', is_video int commen 阅读全文
posted @ 2021-08-26 15:28 Robots2 阅读(33) 评论(0) 推荐(0)
摘要: 一、建表语句 create table dws_bhv_habo_measure_lostrate_mb_di( version_flag bigint comment '版本标签 2:web丢失 3ios直播丢失 4安卓直播丢失', query_version string comment '查询 阅读全文
posted @ 2021-08-26 15:25 Robots2 阅读(120) 评论(0) 推荐(0)
摘要: 模型代码,解析json和打标签 一、建表语句 create table target_tab( event_time bigint comment '事件时间', event_timestamp bigint comment '事件时间戳', video_time bigint comment '直 阅读全文
posted @ 2021-08-26 15:21 Robots2 阅读(149) 评论(0) 推荐(0)
摘要: 一、索引 1、查看表索引 show keys from test_table 2、删除索引或唯一约束UNIQUE KEY drop index crisis_id on test_table; ALTER TABLE test_tab1 DROP KEY udx_entry_pk_id_creato 阅读全文
posted @ 2021-08-12 10:45 Robots2 阅读(109) 评论(0) 推荐(0)