摘要:
部署spark on yarn 创建hive-site.xml(spark/conf目录) 添加内容如下: hive.metastore.warehouse.dir /user/hive/warehouse hive.metastore.local false hive.metastore.uris
阅读全文
posted @ 2025-01-21 20:40
leapss
阅读(10)
推荐(0)
摘要:
Spark On Yarn 的本质? Master 角色由 YARN 的 ResourceManager 担任。 Worker 角色由 YARN 的 NodeManager 担任。 Driver 角色运行在 YARN 容器内或提交任务的客户端进程中。 真正干活的 Executor 运行在 YARN
阅读全文
posted @ 2025-01-20 21:20
leapss
阅读(5)
推荐(0)
摘要:
(1)spark 计算速度快 spark将每个任务构建成DAG进行计算,内部的计算过程通过弹性式分布式数据集RDD在内存在进行计算,相比于hadoop的mapreduce效率提升了100倍。 (2)易于使用 spark 提供了大量的算子,开发只需调用相关api进行实现无法关注底层的实现原理。 通用的
阅读全文
posted @ 2025-01-17 20:39
leapss
阅读(13)
推荐(0)
摘要:
学习spark相关内容 Spark,是一种"One Stack to rule them all"的大数据计算框架,期望使用一个技术堆栈就完美地解决大数据领域的各种计算任务。Apache官方,对Spark的定义就是:通用的大数据快速处理引擎。 Spark使用Spark RDD、Spark SQL、
阅读全文
posted @ 2025-01-10 20:40
leapss
阅读(16)
推荐(0)
摘要:
软件企业产品技术管理的战略与实践 (石家庄铁道大学,河北 石家庄 050043) 摘 要:随着数字经济的快速发展,软件企业面临着前所未有的技术挑战和市场机遇。产品技术管理作为企业战略的重要组成部分,已成为企业保持竞争力的关键因素。研究探讨了产品技术管理的战略意义、核心职能、实践路径、人才管理策略以及
阅读全文
posted @ 2024-12-30 22:20
leapss
阅读(17)
推荐(0)
摘要:
未来职业规划报告 (石家庄铁道大学,河北 石家庄 050043) 摘 要:随着人工智能、大数据、云计算等新兴技术的快速发展,IT行业的就业环境正在经历深刻变革。面对技术更替的加速,大学生在学期间如何提升自我、适应未来的就业需求成为关注的重点。本文通过分析当前IT行业的人才需求与发展趋势,结合大学生已
阅读全文
posted @ 2024-12-29 22:19
leapss
阅读(20)
推荐(0)
摘要:
软件企业人才需求、培养 摘 要:随着信息技术的迅速发展,IT行业对高素质人才的需求不断增长,尤其是在人工智能、大数据、云计算等领域。企业在竞争激烈的市场中,如何发现、吸引、培养和管理人才,已成为其持续创新和发展的关键因素。通过分析当前软件企业的人才需求现状,探讨了企业在招募、培养和使用人才方面的挑战
阅读全文
posted @ 2024-12-28 16:19
leapss
阅读(24)
推荐(0)
posted @ 2024-12-25 10:05
leapss
阅读(18)
推荐(1)
摘要:
今天花了这么长时间但是没写几行代码,主要是在找错误。 我学习在android项目中远程连接数据库的过程中出现了非常多的问题,在网络上众多没用的帖子中寻找有用的信息耗费了我大量时间。现在我把我遇到的错误写出来希望能对后来者有帮助。 我连接的是mysql数据库。数据库版本是 8.0.36。使用的驱动 m
阅读全文
posted @ 2024-12-20 02:36
leapss
阅读(349)
推荐(1)
摘要:
实验二:百度图像增强与特效SDK实验 一、实验要求 任务一:下载配置百度图像增强与特效的Java相关库及环境(占10%) 任务二:了解百度图像增强与特效相关功能并进行总结(占20%) 任务三:完成图像增强GUI相关功能代码并测试调用,要求上传自己的模糊照片进行图像增强(占30%) 任务四:完成图像特
阅读全文
posted @ 2024-12-20 01:05
leapss
阅读(26)
推荐(0)