10 2018 档案

摘要:初次尝试用 Spark+scala 完成项目的重构,由于两者之前都没接触过,所以边学边用的过程大多艰难。首先面临的是如何快速上手,然后是代码调优、性能调优。本章主要记录自己在项目中遇到的问题以及解决方式,下篇会尝试调优方法。末尾会分享自己的学习资料,也供大多菜鸟第一次使用作为参考。由于自己项目中大量 阅读全文
posted @ 2018-10-25 19:53 白白毛狗 阅读(6526) 评论(0) 推荐(0)
摘要:上一节简单介绍了Spark的基本原理以及如何调用spark进行打包一个独立应用,那么这节我们来学习下在spark中如何编程,同样先抛出以下几个问题。 Spark支持的数据集,如何理解? Spark编程中常用到的操作? 一、RDD基础 1、RDD简介 在上一节的组件图Spark Core中我们简单提到 阅读全文
posted @ 2018-10-08 11:29 白白毛狗 阅读(1307) 评论(2) 推荐(1)