摘要:
RDD通过persist方法或cache方法可以将前面的计算结果缓存,默认情况下 persist() 会把数据以序列化的形式缓存在 JVM 的堆空间中。 但是并不是这两个方法被调用时立即缓存,而是触发后面的action时,该RDD的计算结果将会被缓存在计算节点的内存中,并供后面重用。 示例如下: d 阅读全文
posted @ 2020-02-20 18:26
盛夏群岛
阅读(302)
评论(0)
推荐(0)
摘要:
概述 RDD只支持粗粒度转换,即在大量记录上执行的单个操作。将创建RDD的一系列Lineage(血统)记录下来,以便恢复丢失的分区。RDD的Lineage会记录RDD的元数据信息和转换行为,当该RDD的部分分区数据丢失时,它可以根据这些信息来重新运算和恢复丢失的数据分区。 示例代码如下: def m 阅读全文
posted @ 2020-02-20 16:40
盛夏群岛
阅读(186)
评论(0)
推荐(0)
摘要:
Rational 的式样书 分数:rational number 是一种可以表达为比率 d n 的数字,这里的 n 和 d 是数字,其中 d 不能为零。n 被称作是分子:numerator,d 被称作是分母:denominator。分数的例子 有: 2/1 , 3/2 , 239/112 和 1/2 阅读全文
posted @ 2020-02-20 15:31
盛夏群岛
阅读(323)
评论(0)
推荐(0)
摘要:
文本 文本是直接在代码里写常量值的一种方式以。在Scala中并不显式的使用Int或float,而是以文本的方式写成 val 变量。 如果整数文本结束于 L 或者 l,就是 Long 类型,否则就是 Int 类型。 如果浮点数文本以F或f结束,就是Float类型的,否则就是Double类型的。 可选的 阅读全文
posted @ 2020-02-20 11:52
盛夏群岛
阅读(220)
评论(0)
推荐(0)

浙公网安备 33010602011771号