摘要：
一、JDK的安装 JDK使用root用户安装 1.1 上传安装包并解压 1.2 配置环境变量 1.3 验证Java版本 二、配置配置ssh localhost 使用hadoop用户安装 2.1 检测 正常情况下，本机通过ssh连接自己也是需要输入密码的 2.2 生成私钥和公钥秘钥对 2.3 将公钥添 阅读全文
posted @ 2018-04-22 12:10
扎心了，老铁
阅读(21930)
评论(2)
推荐(4)
摘要：
一、概述 在spark程序中，当一个传递给Spark操作(例如map和reduce)的函数在远程节点上面运行时，Spark操作实际上操作的是这个函数所用变量的一个独立副本。这些变量会被复制到每台机器上，并且这些变量在远程机器上的所有更新都不会传递回驱动程序。通常跨任务的读写变量是低效的，但是，Spa 阅读全文
posted @ 2018-04-21 16:59
扎心了，老铁
阅读(28702)
评论(4)
推荐(9)
摘要：
一、RDD的概述 1.1 什么是RDD？ RDD（Resilient Distributed Dataset）叫做弹性分布式数据集，是Spark中最基本的数据抽象，它代表一个不可变、可分区、里面的元素可并行计算的集合。RDD具有数据流模型的特点：自动容错、位置感知性调度和可伸缩性。RDD允许用户在执 阅读全文
posted @ 2018-04-21 11:28
扎心了，老铁
阅读(161341)
评论(12)
推荐(34)
摘要：
一、下载Spark安装包 1、从官网下载 http://spark.apache.org/downloads.html 2、从微软的镜像站下载 http://mirrors.hust.edu.cn/apache/ 3、从清华的镜像站下载 https://mirrors.tuna.tsinghua.e 阅读全文
posted @ 2018-04-20 20:40
扎心了，老铁
阅读(55432)
评论(5)
推荐(6)
摘要：
一、官网介绍 1、什么是Spark 官网地址：http://spark.apache.org/ Apache Spark™是用于大规模数据处理的统一分析引擎。 从右侧最后一条新闻看，Spark也用于AI人工智能 spark是一个实现快速通用的集群计算平台。它是由加州大学伯克利分校AMP实验室 开发的 阅读全文
posted @ 2018-04-19 21:24
扎心了，老铁
阅读(204057)
评论(4)
推荐(22)
摘要：
一、Scala中的并发编程 1、Java中的并发编程 ①Java中的并发编程基本上满足了事件之间相互独立，但是事件能够同时发生的场景的需要。 ②Java中的并发编程是基于共享数据和加锁的一种机制，即会有一个共享的数据，然后有若干个线程去访问这个共享的数据(主要是对这个共享的数据进行修改)，同时Jav 阅读全文
posted @ 2018-04-19 20:51
扎心了，老铁
阅读(8036)
评论(0)
推荐(2)
摘要：
一、泛型 1、泛型的介绍 泛型用于指定方法或类可以接受任意类型参数，参数在实际使用时才被确定，泛型可以有效地增强程序的适用性，使用泛型可以使得类或方法具有更强的通用性。泛型的典型应用场景是集合及集合中的方法参数，可以说同java一样，scala中泛型无处不在，具体可以查看scala的api。 2、泛 阅读全文
posted @ 2018-04-18 21:08
扎心了，老铁
阅读(3339)
评论(0)
推荐(1)
摘要：
一、概念 Scala 2.10引入了一种叫做隐式类的新特性。隐式类指的是用implicit关键字修饰的类。在对应的作用域内，带有这个关键字的类的主构造函数可用于隐式转换。 隐式转换和隐式参数是Scala中两个非常强大的功能，利用隐式转换和隐式参数，你可以提供优雅的类库，对类库的使用者隐匿掉那些枯燥乏 阅读全文
posted @ 2018-04-18 21:03
扎心了，老铁
阅读(2931)
评论(1)
推荐(2)
摘要：
一、概念 柯里化(currying, 以逻辑学家Haskell Brooks Curry的名字命名)指的是将原来接受两个参数的函数变成新的接受一个参数的函数的过程。新的函数返回一个以原有第二个参数作为参数的函数。 在Scala中方法和函数有细微的差别，通常编译器会自动完成方法到函数的转换。 二、Sc 阅读全文
posted @ 2018-04-18 20:59
扎心了，老铁
阅读(3126)
评论(0)
推荐(1)
摘要：
一、类 1、类的定义 scala语言中没有static成员存在，但是scala允许以某种方式去使用static成员这个就是伴生机制，所谓伴生，就是在语言层面上，把static成员和非static成员用不同的表达方式，class和object，但双方具有相同的package和name，但是最终编译器会 阅读全文
posted @ 2018-04-18 20:56
扎心了，老铁
阅读(7919)
评论(0)
推荐(2)
浙公网安备 33010602011771号