ZHOU YANG

摘要： 一、普通java项目(1)添加项目jar包File -> Project Structure Libarries 添加jar包jna-4.0.0.jar(2)将Data文件夹复制到ICTCLAS2015文件夹下(3)声明调用分词器的接口，如下：//定义接口Clibrary，继承自com.sun.jna.Librarypublic interface CLibrary extends Libr... 阅读全文

摘要： 1.scala和maven如何整合 网上有一堆教程讲idea如何new module或new project一步一步来创建scala工程，在这里我不推荐这个。原因是现在主流的开发环境，大多数是采用maven来构建项目的，所以建议大家用maven+plugin的方式来构建scala应用，另外，就象VB... 阅读全文

摘要： 1.PairRDD介绍 Spark为包含键值对类型的RDD提供了一些专有的操作。这些RDD被称为PairRDD。PairRDD提供了并行操作各个键或跨节点重新进行数据分组的操作接口。例如，PairRDD提供了reduceByKey()方法，可以分别规约每个键对应的数据，还有join()方法，可以把两个RDD中键相同的元素组合在一起，合并为一个RDD。2.创建Pair RDD 程序示例：... 阅读全文