会员
周边
新闻
博问
闪存
众包
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
落霞与孤鹜齐飞
中山桥砖厂搬砖者
博客园
首页
新随笔
联系
订阅
管理
上一页
1
···
10
11
12
13
14
2019年1月24日
pythonDay01
摘要: 恢复内容开始 恢复内容结束
阅读全文
posted @ 2019-01-24 19:08 夜半钟声到客船
阅读(163)
评论(0)
推荐(0)
2019年1月23日
关于java 操作linux命令的 一些相关
摘要: 1 ThreadPoolExecutor pool= new ThreadPoolExecutor(5,10, 3, TimeUnit.SECONDS, new LinkedBlockingQueue()); 2 IbcServiceConstants ibcServiceConstants=CfwConstants.ctx.getBean(IbcServiceC...
阅读全文
posted @ 2019-01-23 16:20 夜半钟声到客船
阅读(335)
评论(0)
推荐(0)
2019年1月22日
sparkStrming 实时插入 mysql 今天使用echart 实现了简单数据展示 很low 但学习必须加深
摘要:
阅读全文
posted @ 2019-01-22 19:44 夜半钟声到客船
阅读(457)
评论(0)
推荐(0)
2019年1月21日
需求中碰到的简单Map集合 key相同合并 value的思路
摘要: 从两个接口获取到了数据Map集合, 但是要展示到同一页面 根据了播控人为key 将两个返回的进行遍历 将他们存在新的map里面 只有单个key value 就存为(MAP ,多个直接存为Map 将两个接口获取到的key作为存入set去重 后去set 根据key(person)去取到各自对应的值,存入map 返回 方法很繁琐 ,循环太多,但遇到了 ,就这么实现的 数据example ::...
阅读全文
posted @ 2019-01-21 19:08 夜半钟声到客船
阅读(3642)
评论(0)
推荐(0)
2019年1月18日
StructureStreaming与kafka集成读取数据必要的jar包
摘要: org.apache.spark spark-sql-kafka-0-10_2.11 2.2.1
阅读全文
posted @ 2019-01-18 15:26 夜半钟声到客船
阅读(509)
评论(0)
推荐(0)
2019年1月17日
Hbase 过滤器的使用
摘要: Filter filter= new RowFilter(CompareFilter.CompareOp.EQUAL,new RegexStringComparator("."+day));//任意以day结尾的row Filter filter= new RowFilter(CompareFilter.CompareOp.EQUAL, new ...
阅读全文
posted @ 2019-01-17 18:51 夜半钟声到客船
阅读(294)
评论(0)
推荐(0)
sparkStreaming插入mysql 必须考虑到实时更新老的key
摘要: 原先使用批次提交更新 但数据库无变化,不得不一条一条的插入 公司数据量不大 还未做数据量大的测试 但实时更新是可以的 关键sql : insert into area_user_amt (date,country,provence,amt) values('${datekey}','${countr
阅读全文
posted @ 2019-01-17 18:47 夜半钟声到客船
阅读(1041)
评论(0)
推荐(0)
scala 操作hdfs
摘要: 获取hdfs文件下所有文件getAllFiles 遍历 spark读取
阅读全文
posted @ 2019-01-17 18:38 夜半钟声到客船
阅读(4123)
评论(0)
推荐(0)
关于spark进行实时日志解析,保存hbase与mysql
摘要: 进行地域分析 rowkey=中国_上海_201901016 value=访问次数 1 areaStartAmt.foreachRDD(rdd => { 2 rdd.foreachPartition(partitionOfRecords => { 3 // /** 4 // * *&*****************************...
阅读全文
posted @ 2019-01-17 09:42 夜半钟声到客船
阅读(752)
评论(1)
推荐(0)
上一页
1
···
10
11
12
13
14
公告