摘要: 11.至少有5名直接下属的经理 需求:Employee 表,请编写一个SQL查询来查找至少有5名直接下属的经理。 结果展示: Name John 建表语句: Create table If Not Exists Employee (Id int, Name varchar(255), Departm 阅读全文
posted @ 2021-08-03 23:12 青聪 阅读(83) 评论(0) 推荐(0)
摘要: Kafka 常用配置参数 batch.num.messages default:200,每次批量消息的数量,只对 asyc 起作用。 request.required.acks default:0,0 表示 producer 毋须等待 leader 的确认,1 代表需要 leader 确认写入它的本 阅读全文
posted @ 2021-08-02 22:08 青聪 阅读(368) 评论(0) 推荐(0)
摘要: BroadCast TimeOut 300. org.apache.spark.SparkException: Could not execute broadcast in 300 secs. You can increase the timeout for broadcasts via spark 阅读全文
posted @ 2021-07-22 12:40 青聪 阅读(4073) 评论(0) 推荐(0)
摘要: SparkSQL底层执行原理 SparkSql对SQL语句的处理与关系型数据库类似,会有语法或词法的解析、绑定、优化、执行等过程。 SparkSQL会先将SQL语句解析成抽象语法树AST,然后使用规则Rule对Tree进行绑定、优化等处理。其中SparkSQL由Core、Catalyst、Hive、 阅读全文
posted @ 2021-07-04 23:17 青聪 阅读(323) 评论(0) 推荐(0)
摘要: 离线数仓 数仓采集 用户行为数据: 启动数据、页面数据、曝光数据、行为数据、错误数据。 埋点: 日志数据的产生需要通过用户触发埋点事件产生。 代码埋点:通过调用埋点SDK函数,在需要埋点的业务逻辑功能位置调用接口,上报埋点数据。 可视化埋点:需要集成采集SDK,不需要写代码,通过图形化界面的方式选出 阅读全文
posted @ 2021-06-30 22:10 青聪 阅读(100) 评论(0) 推荐(0)
摘要: Catelog Table Catlog is essentially an HBase table and just like other table but is filled out of the HBase Shell's list command . Hbase: meta Hbase:m 阅读全文
posted @ 2021-06-30 18:47 青聪 阅读(84) 评论(0) 推荐(0)
摘要: 10.员工薪水中位数 需求:请编写SQL查询来查找每个公司的薪水中位数 结果展示: Id Company Salary 5 A 451 6 A 513 12 B 234 9 B 1154 14 C 2645 建表语句: Create table If Not Exists Employee (Id 阅读全文
posted @ 2021-06-21 22:23 青聪 阅读(56) 评论(0) 推荐(0)
摘要: MemStore 详解 Store A Store hosts a MemStore and 0 or more StoreFiles (HFiles). A Store corresponds to a column family for a table for a given region. 多 阅读全文
posted @ 2021-06-21 19:18 青聪 阅读(184) 评论(0) 推荐(0)
摘要: 9.用户玩法分析 Activity表:显示了某些游戏的玩家的活动情况。 player_id device_id event_date games_played 1 2 2016-03-01 5 1 2 2016-03-02 6 2 3 2017-06-25 1 3 1 2016-03-01 0 3 阅读全文
posted @ 2021-06-17 22:29 青聪 阅读(120) 评论(0) 推荐(0)
摘要: 8.行程和用户 需求:写一段 SQL 语句查出 2019年10月1日 至 2019年10月3日 期间非禁止用户的取消率。基于上表,你的 SQL 语句应返回如下结果,取消率(Cancellation Rate)保留两位小数。取消率的计算方式如下:(被司机或乘客取消的非禁止用户生成的订单数量) / (非 阅读全文
posted @ 2021-06-15 22:49 青聪 阅读(66) 评论(0) 推荐(0)