• 博客园logo
  • 会员
  • 众包
  • 新闻
  • 博问
  • 闪存
  • 赞助商
  • HarmonyOS
  • Chat2DB
    • 搜索
      所有博客
    • 搜索
      当前博客
  • 写随笔 我的博客 短消息 简洁模式
    用户头像
    我的博客 我的园子 账号设置 会员中心 简洁模式 ... 退出登录
    注册 登录
金色的鱼儿
博客园 首页 新随笔 联系 订阅 订阅 管理
上一页 1 ··· 9 10 11 12 13 14 15 16 17 ··· 59 下一页

2021年1月14日

spark streaming之 windowDuration、slideDuration、batchDuration​
摘要: spark streaming 不同于sotm,是一种准实时处理系统。storm 中,把批处理看错是时间教程的实时处理。而在spark streaming中,则反过来,把实时处理看作为时间极小的批处理。 1、三个时间参数 spark streaming 中有三个关于时间的参数,分别如下: 窗口时间w 阅读全文
posted @ 2021-01-14 13:29 金色的鱼儿 阅读(440) 评论(0) 推荐(0)
 
Spark Streaming 性能调优
摘要: 目录 1、合理的批次处理时间 2、合理的kafka拉取数据 3、缓存反复使用的Dstream(RDD) 4、其他一些优化策略 5、结果 1、合理的批次处理时间 关于Spark Streaming的批处理时间设置是非常重要的,Spark Streaming在不断接收数据的同时,需要处理数据的时间,所以 阅读全文
posted @ 2021-01-14 13:27 金色的鱼儿 阅读(567) 评论(0) 推荐(0)
 
Spark Streaming的Batch Duration优化
摘要: Spark Streaming 是微批处理。 SparkConf sparkConf = new SparkConf().setAppName("SparkStreaming").setMaster("local[*]"); JavaStreamingContext javaStreamingCon 阅读全文
posted @ 2021-01-14 13:26 金色的鱼儿 阅读(428) 评论(0) 推荐(0)
 
elasticsearch官网下载
摘要: 一、官网下载地址: https://www.elastic.co/cn/downloads/elasticsearch 二、点击“past releases” ,然后找到对应的版本,点击Download。 三、选择相应的系统版本进行下载。Elasticsearch 6.4.x对应的是lucene的7 阅读全文
posted @ 2021-01-14 10:24 金色的鱼儿 阅读(3447) 评论(0) 推荐(0)
 
查看lucene和elasticsearch的版本对应关系
摘要: 一、Maven仓库官网: https://mvnrepository.com/ 二、搜索elasticsearch,然后点击Server或者elasticsearch进入。 三、点击相应的版本号进入。 四、查看对应的lucene版本。 END 阅读全文
posted @ 2021-01-14 10:09 金色的鱼儿 阅读(2348) 评论(0) 推荐(0)
 
lucene和solr的版本对应
摘要: 在Solr1.4.x的时候,Solr和Lucene是独立发布的,Solr一般会在Lucene发布新版本后跟进发布一个新的版本。到了3.1的时候,两者代码做了合并,版本号统一了,并同时发布。具体情况如下Solr 1.4.0 Lucene 2.9.1Solr 1.4.1 Lucene 2.9.3Solr 阅读全文
posted @ 2021-01-14 09:35 金色的鱼儿 阅读(306) 评论(0) 推荐(0)
 
elasticSearch 6和7的版本改变大坑
摘要: http://majiameng.com/article/2717.html 阅读全文
posted @ 2021-01-14 09:33 金色的鱼儿 阅读(2885) 评论(0) 推荐(0)
 
 

2021年1月13日

Spring Boot 2.3.2 集成elasticsearch 7.6.2实战
摘要: 前言 此前虽然有尝试过集成elasticsearch,不过技术栈并非spring boot。本次尝试在springboot项目中集成elasticsearch,不过由于spring boot、es、rest的版本问题,折腾了好久,写这篇文章的目的一是分享一下,也是为了纪念当时的摸爬滚打。注:集成过程 阅读全文
posted @ 2021-01-13 16:58 金色的鱼儿 阅读(2461) 评论(0) 推荐(0)
 
Docker部署CDH集群
摘要: https://juejin.cn/post/6844904122731200525 阅读全文
posted @ 2021-01-13 15:42 金色的鱼儿 阅读(900) 评论(0) 推荐(0)
 
3台阿里云ECS安装CDH大数据集群过程(CentOS7.4+独立数据盘)
摘要: https://my.oschina.net/ykbj/blog/1859661 阅读全文
posted @ 2021-01-13 15:17 金色的鱼儿 阅读(258) 评论(0) 推荐(0)
 
 
上一页 1 ··· 9 10 11 12 13 14 15 16 17 ··· 59 下一页

公告


博客园  ©  2004-2025
浙公网安备 33010602011771号 浙ICP备2021040463号-3