• 博客园logo
  • 会员
  • 众包
  • 新闻
  • 博问
  • 闪存
  • 赞助商
  • HarmonyOS
  • Chat2DB
    • 搜索
      所有博客
    • 搜索
      当前博客
  • 写随笔 我的博客 短消息 简洁模式
    用户头像
    我的博客 我的园子 账号设置 会员中心 简洁模式 ... 退出登录
    注册 登录
 






八旗格格的家

 
 

Powered by 博客园
博客园 | 首页 | 新随笔 | 联系 | 订阅 订阅 | 管理
上一页 1 2 3 4 5 6 下一页

2020年5月13日

asdfghjkl
摘要: 1 package com.bawei.foryk 2 3 import com.bawei.util.DateTools 4 5 6 object TrafficUtil { 7 8 //根据拍照的经纬度与天安门的经纬度计算距离判断位于几环 9 def circle(x:Int,y:Int): I 阅读全文
posted @ 2020-05-13 11:59 八旗格格的家 阅读(1672) 评论(0) 推荐(0)
 
项目部署到yarn
摘要: 1 项目部署到yarn (spark on yarn)sparkstreaming打包之前检查 2 1、checkpointval checkpointPath = args(0) 3 2、3、package 4 4、上传jar包到linux 5 5、spark on yarn : hadoop f 阅读全文
posted @ 2020-05-13 10:06 八旗格格的家 阅读(377) 评论(0) 推荐(0)
 

2020年5月12日

统计文件的行数
摘要: 1 package com.bawei.foryk 2 3 import org.apache.spark.rdd.RDD 4 import org.apache.spark.{SparkConf, SparkContext} 5 6 7 object SparkCoreReview02 { 8 9 阅读全文
posted @ 2020-05-12 21:11 八旗格格的家 阅读(265) 评论(0) 推荐(0)
 
SparkStreaming+ kafka-updateStateByKey-reduceByKeyAndWindow-countByKeyAndWindow-
摘要: 1 package com.bawei.foryk 2 3 import org.apache.kafka.clients.consumer.ConsumerRecord 4 import org.apache.kafka.common.serialization.StringDeserialize 阅读全文
posted @ 2020-05-12 20:36 八旗格格的家 阅读(235) 评论(0) 推荐(0)
 
sparksql -自定义函数保存到mysql ---开窗函数( row_number() over ) 自定义函数(UDF) ​(输出到文件,输出到mysql)
摘要: 1 package com.bawei.foryk 2 3 import java.util.Properties 4 5 import org.apache.spark.rdd.RDD 6 import org.apache.spark.sql.{DataFrame, SparkSession} 阅读全文
posted @ 2020-05-12 20:15 八旗格格的家 阅读(325) 评论(0) 推荐(0)
 
车辆监控系统出现的日志
摘要: 1 (二)题目描述: 2 题目一:Linux中运行一个object 打印 hello world 运行,展示效果。(5分) 3 题目二:题目一:以下是车辆监控系统出现的日志,其中格式如下 4 其中数据以此为日期,卡扣号,摄像头号 车牌号 拍照时间,车速,道路,区. 5 2019-11-19 0001 阅读全文
posted @ 2020-05-12 17:22 八旗格格的家 阅读(913) 评论(0) 推荐(0)
 

2020年5月11日

流处理 消费kafka 单词统计(SparkStreaming_Kafka_Mysql_StreamWC)
摘要: 1 ##### 二、启动服务 2 3 各节点执行: 4 ./kafka-server-start.sh -daemon ../config/server.properties 5 6 创建topic: 7 [root@node1 bin]# ./kafka-topics.sh --create -- 阅读全文
posted @ 2020-05-11 20:56 八旗格格的家 阅读(279) 评论(0) 推荐(0)
 
打包运行 项目部署 startalone模式 和 yarn模式
摘要: 1 打包运行 项目部署 startalone模式 和 yarn模式 2 1:把local 本地运行删掉 输入输出路径改为args(0) args(1) 删除左边target文件 3 顶部 bulid->bulid project 然后右侧打包package 在target下拷贝jar包到桌面上 4 阅读全文
posted @ 2020-05-11 14:21 八旗格格的家 阅读(665) 评论(0) 推荐(0)
 

2020年5月10日

读取文件生成数据RDD 数据保存在本地
摘要: 1 package com.xiangmu_bushu 2 3 import org.apache.spark.rdd.RDD 4 import org.apache.spark.{SparkConf, SparkContext} 5 6 object Stream_WordCount { 7 de 阅读全文
posted @ 2020-05-10 10:35 八旗格格的家 阅读(909) 评论(0) 推荐(0)
 

2020年5月5日

Stream From 整合 Kafka
摘要: 1 package com.bawei.stream 2 3 import org.apache.kafka.clients.consumer.ConsumerRecord 4 import org.apache.kafka.common.serialization.StringDeserializ 阅读全文
posted @ 2020-05-05 17:28 八旗格格的家 阅读(291) 评论(0) 推荐(0)
 
上一页 1 2 3 4 5 6 下一页