上一页 1 ··· 4 5 6 7 8 9 10 11 12 ··· 33 下一页
摘要: mybatis的应用能大大简化我们编写程序的代码并提升效率。 package com.aurora.mybatis.test; import com.aurora.mybatis.mapper.ParameterMapper; import com.aurora.mybatis.pojo.User; 阅读全文
posted @ 2024-09-29 14:42 yblll 阅读(10) 评论(0) 推荐(0)
摘要: 5. Spark SQL 与 DataFrame 基本操作 概述 Spark SQL 允许我们使用 SQL 查询操作处理大数据。本文将介绍如何使用 Spark SQL 和 DataFrame 进行基本的数据查询和分析操作。 内容 Spark SQL 和 DataFrame 概述 创建 DataFra 阅读全文
posted @ 2024-09-29 14:41 yblll 阅读(8) 评论(0) 推荐(0)
摘要: 6. 使用 Spark Streaming 实时处理数据 概述 Spark Streaming 是 Spark 生态系统中的流式数据处理组件。本文将介绍如何使用 Spark Streaming 实现实时数据处理。 内容 Spark Streaming 的基本概念 从 Socket 数据源读取数据 实 阅读全文
posted @ 2024-09-29 14:41 yblll 阅读(20) 评论(0) 推荐(0)
摘要: 7. HBase 基本操作 概述 HBase 是一个分布式、面向列的 NoSQL 数据库,适用于存储非结构化或半结构化数据。本文将介绍如何使用 HBase Shell 进行基本操作。 内容 HBase 数据模型 使用 HBase Shell 进行增删改查操作 HBase 表设计注意事项 代码示例 # 阅读全文
posted @ 2024-09-29 14:41 yblll 阅读(30) 评论(0) 推荐(0)
摘要: 4. Spark 基础:RDD 操作 概述 Spark 是一个快速大数据处理框架,具有强大的内存计算能力。本文将介绍 Spark RDD 的基本操作,包括创建、转换和行动操作。 内容 RDD 概念 创建 RDD:从集合或外部数据源 RDD 转换操作:map、filter RDD 行动操作:colle 阅读全文
posted @ 2024-09-29 14:40 yblll 阅读(19) 评论(0) 推荐(0)
摘要: 3. 使用 MapReduce 实现词频统计 概述 MapReduce 是 Hadoop 用于处理大规模数据的核心编程模型。本文将通过 MapReduce 代码实现简单的词频统计任务。 内容 MapReduce 工作原理:Mapper 和 Reducer Hadoop 项目结构 MapReduce 阅读全文
posted @ 2024-09-29 14:39 yblll 阅读(15) 评论(0) 推荐(0)
摘要: 1. Hadoop 集群搭建与配置 概述 Hadoop 是大数据处理框架,适用于分布式存储和处理大规模数据。本文将介绍如何搭建一个简单的 Hadoop 集群,包含基本的配置步骤和注意事项。 内容 Hadoop 架构概述:HDFS、YARN、MapReduce 环境要求:Java、SSH、Linux 阅读全文
posted @ 2024-09-29 14:36 yblll 阅读(18) 评论(0) 推荐(0)
摘要: 2. HDFS 基础操作 概述 Hadoop 分布式文件系统(HDFS)是 Hadoop 的核心组件之一。本文将介绍 HDFS 的基本操作,如文件上传、下载和删除。 内容 HDFS 的架构介绍 HDFS 文件操作命令 常用 HDFS Shell 命令 代码示例 # 上传文件到 HDFS hdfs d 阅读全文
posted @ 2024-09-29 14:36 yblll 阅读(52) 评论(0) 推荐(0)
摘要: 本周,我主要聚焦于专业技能的深化与未来规划的明确。通过在线课程深入学习了Java高级编程及数据库优化技术,实践项目中遇到的性能瓶颈得到了有效解决。同时,我开始探索机器学习在软件工程中的应用,初步掌握了Python进行数据处理的技巧,拓宽了技术视野。 下周,我将继续深化技术学习,并着手准备参与一个开源 阅读全文
posted @ 2024-08-08 13:34 yblll 阅读(11) 评论(0) 推荐(0)
摘要: 这周跟着教程重新走了一遍hadoop和hive安装及运行。 验证Hive安装及错误处理1. 启动Hadoopcd /usr/local/hadoopsbin/start-dfs.sh122. 启动hivecd /usr/local/hive1./bin/schematool -dbType mysq 阅读全文
posted @ 2024-07-27 13:28 yblll 阅读(10) 评论(0) 推荐(0)
上一页 1 ··· 4 5 6 7 8 9 10 11 12 ··· 33 下一页