随笔分类 -  scala学习笔记

spark-wordcount-sample算子测试
摘要:import org.apache.spark.{SparkConf, SparkContext} object radomSampleU { def main(args: Array[String]) { val conf = new SparkConf().setAppName("WordCount_groupBy") .setMaster("local") ... 阅读全文

posted @ 2019-01-04 17:17 moonlight.ml 阅读(510) 评论(0) 推荐(0)

Spark-水库抽样-根据抽样率确定每个分区的样本大小
摘要:/* * 输入:采样率,待采样的RDD * 输出:每个分区的样本大小(记录数) * 由采样率确定,每个分区的样本大小 */ def findNumPerPartition[T: ClassTag, U: ClassTag](sampleRate : Double, rddNum : RDD[T]): Int ={ //RDD总记录数 val numRdd=rddNum... 阅读全文

posted @ 2019-01-04 17:04 moonlight.ml 阅读(345) 评论(0) 推荐(0)

Scala基础篇-05求值策略
摘要:Scala的求值策略有2种: call by value call by name 如何区分? 例子: 阅读全文

posted @ 2018-10-29 10:08 moonlight.ml 阅读(120) 评论(0) 推荐(0)

Scala基础篇-04 try表达式
摘要:1.try表达式 定义 2.match表达式 阅读全文

posted @ 2018-10-29 09:45 moonlight.ml 阅读(592) 评论(0) 推荐(0)

scala基础篇-03 if与for
摘要:一、Scala中的if是表达式** 1.定义方式 2.例子 二、for 的用法 1.定义方式: 2.例子: 阅读全文

posted @ 2018-10-28 09:46 moonlight.ml 阅读(228) 评论(0) 推荐(0)

Scala基础篇-02函数与代码块
摘要:1.block 代码块也是表达式,其最终求得的值是最后一个表达式的值。 {exp1;exp2} { exp1 exp2 } 2.function 3.例子 利用字符串插值特性:s"...${...}..." 省略花括号: 阅读全文

posted @ 2018-10-28 09:22 moonlight.ml 阅读(366) 评论(0) 推荐(0)

Scala基础篇-01变量,数据类型
摘要:一、Scala变量 共有3种变量修饰符: val: 可变 var: 不可变 lazy val: 第一次应用时才计算 二、Scala的数据类型 1)类型不匹配:高精度数值赋给低精度数据类型。 2)Unit相当于Java中的void。 3)string新特性(就是Java中的String,但在Scala 阅读全文

posted @ 2018-10-28 00:11 moonlight.ml 阅读(188) 评论(0) 推荐(0)

Scala基础篇-函数式编程的重要特性
摘要:1.纯函数 表示函数无副作用(状态变化)。 2.引用透明性 表示对相同输入,总是得到相同输出。 3.函数是一等公民 函数与变量、对象、类是同一等级。表示可以把函数当做参数传入另一个函数,或者作为函数的返回值,甚至可以在一个函数中定义另一个函数。 4.高阶函数的定义 参数是函数,或者返回值是函数。 5.闭包 6.表达式求值 包括严格求值和非严格求值两种。 7.... 阅读全文

posted @ 2018-10-27 23:32 moonlight.ml 阅读(213) 评论(0) 推荐(0)

scala.的Enumeration枚举示例(转)
摘要:简介 在scala中没有枚举类型,但在标准类库中提供了Enumeration类来产出枚举。扩展Enumeration类后,调用value方法类初始化枚举中的可能值。 内部类value实际上是一个抽象类,真正创建的是val。因为实际上是Val,所以可以为Value传入id和name。如果不指定,id就 阅读全文

posted @ 2018-05-16 17:34 moonlight.ml 阅读(225) 评论(0) 推荐(0)

scala打印error,debug,info
摘要:1.以wordcount为例 2.控制台输出结果: 阅读全文

posted @ 2018-05-14 10:21 moonlight.ml 阅读(367) 评论(0) 推荐(0)

scala如何在任意方法中打印当前线程栈信息(StackTrace)
摘要:1.以wordcount为例 2.输出结果: 阅读全文

posted @ 2018-05-14 10:07 moonlight.ml 阅读(1186) 评论(0) 推荐(0)

导航