会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
留歌__36的博客
我是留歌,这里是留歌36。很高兴被你发现!留歌是一个爱折腾的程序员。如果你也喜欢我的文章,欢迎订阅和关注。谢谢大家~ 我的个人网站: how2s.cn
博客园
首页
新随笔
联系
订阅
管理
上一页
1
···
6
7
8
9
10
11
12
13
14
···
26
下一页
2019年3月7日
csv数据文件清洗【DataFrame】
摘要: package march.sqlimpor...
阅读全文
posted @ 2019-03-07 08:59 liuge36
阅读(423)
评论(0)
推荐(0)
2019年3月5日
HiveJdbcClient的操作 【Hive】
摘要: import java.sql.*;/** ...
阅读全文
posted @ 2019-03-05 19:26 liuge36
阅读(198)
评论(0)
推荐(0)
2019年3月4日
External DataSource 之parquet【Spark SQL】
摘要: package february.sqlim...
阅读全文
posted @ 2019-03-04 18:45 liuge36
阅读(106)
评论(0)
推荐(0)
2019年3月1日
hostnamectl set-hostname liuge
摘要: hostnamectl set-hostna...
阅读全文
posted @ 2019-03-01 23:03 liuge36
阅读(203)
评论(0)
推荐(0)
2019年2月27日
java.io.IOException: Could not locate executable null\bin\winutils.exe in the Hadoop binaries.
摘要: 问题说明: 一般来说,我编写Spark,MapReduce程序都是会在本地IDEA中进行,开发。本地跑通了,才会把代码放到集群上去跑。 当我在运行一个简单的Spark Job 的时候,控制台出现如下的错误: java.io.IOException: Could not locate executab
阅读全文
posted @ 2019-02-27 15:29 liuge36
阅读(604)
评论(0)
推荐(0)
DataFrame 转换为Dataset
摘要: 写在前面: A DataFrame is a Dataset organized into named columns. A Dataset is a distributed collection of data. 贴代码: 简单的csv文件: infos.csv 更多相关小demo:每天一个程序:
阅读全文
posted @ 2019-02-27 15:24 liuge36
阅读(3394)
评论(0)
推荐(0)
基于API和SQL的基本操作【DataFrame】
摘要: 写在前面: 当得到一个DataFrame对象之后,可以使用对象提供的各种API方法进行直接调用,进行数据的处理。 另,也可以将DataFrame对象通过createOrReplaceTempView()方法,将其转为一张表,从而使用SQL来进行数据处理。 主要介绍一下API的基本操作,因为SQL的话
阅读全文
posted @ 2019-02-27 15:24 liuge36
阅读(544)
评论(0)
推荐(0)
WordCount程序【Spark Streaming版本】
摘要: ~~ 前置 ~~ Spark Streaming 常常对接 :本地文件、HDFS、端口、flume、kafka 更多相关小demo:每天一个程序:https://blog.csdn.net/liuge36/column/info/34094
阅读全文
posted @ 2019-02-27 15:23 liuge36
阅读(210)
评论(0)
推荐(0)
RDD转换为DataFrame【反射/编程】
摘要: 写在前面 主要是加载文件为RDD,再把RDD转换为DataFrame,进而使用DataFrame的API或Sql进行数据的方便操作 简单理解:DataFrame=RDD+Schema 贴代码 更多相关小demo:每天一个程序:https://blog.csdn.net/liuge36/column/
阅读全文
posted @ 2019-02-27 15:23 liuge36
阅读(352)
评论(0)
推荐(0)
基于RDD实现简单的WordCount程序
摘要: 写在前面 因为觉得自己的代码量实在是太少了,所以,想着,每周至少写5个小的demo程序。现在的想法是,写一些Spark,Storm,MapReduce,Flume,kafka等等单独或组合使用的一些小的Demo。 然后,我会尽力记录好,自己编码过程中遇到的问题,方便自己巩固复习。 废话不多说,我们直
阅读全文
posted @ 2019-02-27 15:22 liuge36
阅读(599)
评论(0)
推荐(0)
上一页
1
···
6
7
8
9
10
11
12
13
14
···
26
下一页
公告