摘要: 很多情况下,我们在window平台下用spark shell来进行交互式开发和测试,当在使用sparksql时,比如如下命令: val myDF = spark.sql("select * from mytable") 可能会遇到下面的问题: 这是因为,spark在window平台读取hdfs时,需 阅读全文
posted @ 2020-04-10 17:10 黎明踏浪号 阅读(1234) 评论(1) 推荐(0)
摘要: spark数据处理完后,如果结果需要输出到sql database,可以使用spark sql dataframe并引入微软的数据库jdbc驱动输出数据,具体步骤如下: 1:引入微软的jdbc jar包 在项目的pom文件加入下面的依赖: <dependency> <groupId>com.micr 阅读全文
posted @ 2020-04-10 10:53 黎明踏浪号 阅读(1440) 评论(0) 推荐(0)