10 2018 档案
摘要:初次尝试用 Spark+scala 完成项目的重构,由于两者之前都没接触过,所以边学边用的过程大多艰难。首先面临的是如何快速上手,然后是代码调优、性能调优。本章主要记录自己在项目中遇到的问题以及解决方式,下篇会尝试调优方法。末尾会分享自己的学习资料,也供大多菜鸟第一次使用作为参考。由于自己项目中大量
阅读全文
摘要:上一节简单介绍了Spark的基本原理以及如何调用spark进行打包一个独立应用,那么这节我们来学习下在spark中如何编程,同样先抛出以下几个问题。 Spark支持的数据集,如何理解? Spark编程中常用到的操作? 一、RDD基础 1、RDD简介 在上一节的组件图Spark Core中我们简单提到
阅读全文

浙公网安备 33010602011771号