上一页 1 ··· 4 5 6 7 8 9 10 11 12 13 下一页
摘要: transgormation的算子对key-value类型的数据有三种: (1)输入 与 输出为一对一关系 mapValue();针对key-value类型的数据并只对其中的value进行操作,不对key进行操作 (2)对单个rdd聚集 (2)对单个rdd聚集 combineByKey 相当于将(v 阅读全文
posted @ 2017-03-23 19:21 卖臭豆腐喽 阅读(715) 评论(0) 推荐(0)
摘要: value类型的算子 处理数据类型为value型的算子(也就是这个算子只处理数据类型为value的数据),可以根据rdd的输入分区与输出分区的关系分为以下几个类型 (1)输入分区与输出分区一对一型 map型:对rdd的每个数据项,通过用户自定义的函数映射转换成一个新的rdd 上面4个方框表示4个rd 阅读全文
posted @ 2017-03-23 19:18 卖臭豆腐喽 阅读(2496) 评论(0) 推荐(0)
摘要: 我只有一台机器,是因为要配置hadoop分布式环境用,需要配置ssh 两个用户: zhangxs, root 首先在切换到zhangxs用户下 执行【 ssh-keygen -t rsa】 【cp id_rsa.pub authorized_keys】 复制文件 【ssh localhost】 以s 阅读全文
posted @ 2017-03-19 16:16 卖臭豆腐喽 阅读(410) 评论(0) 推荐(0)
摘要: centos7 跟centos6有一些不同的 查看你的网络接口哪些受网络管理器管理 vi etc/sysconfig/network-scripts/ifcfg-enp1s0f0 ping www.baidu.com ok配置完成 阅读全文
posted @ 2017-03-19 15:39 卖臭豆腐喽 阅读(6356) 评论(0) 推荐(1)
摘要: 在官网下载flash的tar包 https://get.adobe.com/flashplayer/?spm=a2h0j.8191423.movie_player.5~5~5~8~A 在下载tar包的目录执行 再执行 安装完成 重起浏览器即可 阅读全文
posted @ 2017-03-18 23:26 卖臭豆腐喽 阅读(2763) 评论(0) 推荐(0)
摘要: 安装centos7 后,他有自带的中文输入法安装包找到 applications->systemTools->settings->region&language 2:在 input source 有个"+"号,添加中文输入 第一页如果没有,就点击最下面那个“三个点“,输入chinese,第二个就是 阅读全文
posted @ 2017-03-18 20:07 卖臭豆腐喽 阅读(16642) 评论(0) 推荐(0)
摘要: 首先打开终端 2:选择 edit->preferences->profile 3: "model1"是我自己改的名字,最开始是"unname"。双击“model1”, 选择 colours 4;勾选“use transparent background” 使用透明背景 其他的一些设置,可以根据自己的 阅读全文
posted @ 2017-03-18 19:49 卖臭豆腐喽 阅读(6921) 评论(0) 推荐(0)
摘要: 测试数据 sparkStu.text zhangxs 24 chenxy wangYr 21 teacher wangx 26 teacher sparksql { "name":"zhangxs","age":24,"job":"chengxy", "name":"li","age":21,"jo 阅读全文
posted @ 2017-03-06 23:29 卖臭豆腐喽 阅读(11435) 评论(0) 推荐(0)
摘要: 加载文件 scala> var f1=sc.textFile("/tmp/dataTest/followers.txt") scala> var f1=sc.textFile("/tmp/dataTest/followers.txt") scala> f1.flatMap(x=>x.split("- 阅读全文
posted @ 2017-03-06 23:23 卖臭豆腐喽 阅读(5020) 评论(0) 推荐(0)
摘要: 定义不带参数也不带返回值的函数(def :定义函数的关键字 printz:方法名称) scala> def printz = print("scala hello") 定义带参数也带返回值的函数(这种函数在定义时也可以不带返回值的类型,scala会自动推算出。建议还是带上) scala> def m 阅读全文
posted @ 2017-03-06 23:04 卖臭豆腐喽 阅读(14856) 评论(1) 推荐(0)
上一页 1 ··· 4 5 6 7 8 9 10 11 12 13 下一页