摘要: 之前的运行结果比对发现,有1个函数的作用在2个job里面是相同的,但是对应的计算时间却差太远 于是把4个job分开运行.虽说使用的数据不同,但是生成数据的生成器是相同的,数据排布差距不大,数据量也是相同的. 以下是这4个job的运行时间表 Details for pure RDD job Statu 阅读全文
posted @ 2019-02-13 13:58 DGUT_FLY 阅读(517) 评论(0) 推荐(0)
摘要: 之前的运行数据被清除了,只能再运行一次,对比一下sparkSQL语句的影响 纯SQL的时间 对应时间表 collect at AreaTop3ProductSql.java:99 200/200 javaRDD at AreaTop3ProductSql.java:306 200/200 javaR 阅读全文
posted @ 2019-01-30 11:41 DGUT_FLY 阅读(364) 评论(0) 推荐(0)
摘要: 1.springfox-swagger实体类无限递归 https://hacpai.com/article/1525674135818 里面有不完美的解决方案 不用动源码的解决方案也有,在swagger项目里的函数传入参数没有类互相包含就可以了 这也要求某些多对多关系的实体类的属性定义要仔细走关系图 阅读全文
posted @ 2019-01-29 18:42 DGUT_FLY 阅读(532) 评论(0) 推荐(0)
摘要: 首先看没有map join的第2任务: 时间线如下 接着是对应id的算子计算时间表 collect at AreaTop3ProductRDD.java:353 +details 41/41 mapToPair at AreaTop3ProductRDD.java:259 +details 41/4 阅读全文
posted @ 2019-01-29 16:44 DGUT_FLY 阅读(197) 评论(0) 推荐(0)
摘要: 代码存在码云:https://coding.net/u/funcfans/p/sparkProject/git 代码主要学习https://blog.csdn.net/u012318074/article/category/6744423/1这里的 发现样例作为正式项目来说效率太低了,为了知识点而知 阅读全文
posted @ 2019-01-29 15:16 DGUT_FLY 阅读(239) 评论(0) 推荐(0)
摘要: 1.容器里面安装spark,外面的程序(安装spark主机的容器)会连接不上集群。理由:这个组件用的akka,连接上集群,会提示: akka.ErrorMonitor: dropping message [class akka.actor.ActorSelectionMessage] for non 阅读全文
posted @ 2018-11-13 18:39 DGUT_FLY 阅读(455) 评论(0) 推荐(0)
摘要: 涉及到代码部分(以1.4版本为准)的回答,均可使用notepad++查找对应数字及其变量 36、 以下哪个错误码代表 "Bytom API Error"?A:BTM000B:BTM103c.:BTM404 答案:A。搜索结果:bytom-master\api\errors.go:116,BTM000 阅读全文
posted @ 2018-09-15 12:00 DGUT_FLY 阅读(227) 评论(0) 推荐(0)
摘要: 涉及到代码部分(以1.4版本为准)的回答,均可使用notepad++查找对应数字及其变量 16、 当前比原链有几个网络可供选择 ?A:2个B:3个C:4个 答案:B,分别是主网mainnet、测试网testnet、单机网solonet,readme.md里面有提到 17、 在比原链上BTM的资产ID 阅读全文
posted @ 2018-09-11 00:35 DGUT_FLY 阅读(240) 评论(0) 推荐(0)
摘要: 涉及到代码部分(以1.4版本为准)的回答,均可使用notepad++查找对应数字及其变量 1、比原链使用什么共识算法?A:POWB:POSC:POB A,无需解释,咱们BTM有tensority工作量证明算法 2、比原链每笔BTM交易使用的UTXO上限是多少?A:19B:20C:21 C,原因不明 阅读全文
posted @ 2018-09-07 12:52 DGUT_FLY 阅读(241) 评论(0) 推荐(0)
摘要: 解这道题绕了好多弯路。。。先是把"depth of the least common ancestor"这句话忽视掉,以为是最深点与最浅点的深度差;看到某人题解(的开头)之后发现自己理解错误,修改思路。结果又是绕好多弯路。构造了一个式子dp[i,j]其中i是前几个点,j是切分的段数。一直以为转移是整 阅读全文
posted @ 2017-08-02 18:43 DGUT_FLY 阅读(211) 评论(0) 推荐(0)