随笔分类 -  Apache DolphinScheduler

摘要:飞书告警创建指南。 阅读全文
posted @ 2025-11-19 14:59 海豚调度 阅读(37) 评论(0) 推荐(0)
摘要:过去两周,我们对开源之夏活动中表现优异的开发者们进行了简单的采访,初步粗略地了解了一下他们的开发过程和心得体会。今天,我们将通过同学们的完整结项报告,深入了解项目的开发技术细节,希望能够帮助大家更好地了解 Apache DolphinScheduler 项目的最新进展。 阅读全文
posted @ 2025-11-19 11:48 海豚调度 阅读(94) 评论(0) 推荐(0)
摘要:本次版本重点围绕 性能优化、稳定性增强、文档完善与关键问题修复 展开,为广大用户带来更加顺畅、可靠的数据工作流编排体验。 阅读全文
posted @ 2025-11-05 11:51 海豚调度 阅读(106) 评论(0) 推荐(0)
摘要:最近使用 Apache DolphinScheduler 调度任务,不可避免地使用到【补数据】功能,经过不断尝试,终于成功运行了【补数据】功能,以此帖记录。 阅读全文
posted @ 2025-10-29 14:40 海豚调度 阅读(134) 评论(0) 推荐(0)
摘要:本文聚焦某大数据团队的实战优化经验,系统阐述该团队的核心实践:针对任务依赖机制的源码级改造(新增节点级别判断逻辑)、与Open-Falcon的告警对接升级(实现信息精简、优先级分级与分群推送),以及组件监控体系的构建(含节点存活检测与自愈能力)等。 阅读全文
posted @ 2025-10-23 16:12 海豚调度 阅读(70) 评论(0) 推荐(0)
摘要:今年的 GSoC 已近尾声,在这场代码开发盛宴中,Apache DolphinScheduler 的开发者们积极参与,取得了一项对用户意义重大的成果——引入通用 OIDC 认证,实现无缝安全访问。 阅读全文
posted @ 2025-10-23 10:47 海豚调度 阅读(77) 评论(0) 推荐(0)
摘要:本文将介绍 Apache DolphinScheduler 的 Worker 负载均衡,含加权随机、平滑轮询、线性负载(默认)三种算法,及配置修改、Worker 权重与预热机制,并细述各算法原理。详情可参考文末源文档地址。 阅读全文
posted @ 2025-10-15 18:48 海豚调度 阅读(66) 评论(0) 推荐(0)
摘要:本文将介绍 Apache DolphinScheduler 的 Worker 负载均衡,含加权随机、平滑轮询、线性负载(默认)三种算法,及配置修改、Worker 权重与预热机制,并细述各算法原理。详情可参考文末源文档地址。 阅读全文
posted @ 2025-10-15 18:38 海豚调度 阅读(53) 评论(0) 推荐(0)
摘要:本文是 Apache DolphinScheduler 3.1.9 版本源码解读的第二篇:Worker Server 启动流程源码解读以及相关流程设计。结尾处附有相关流程图,供大家参考。 阅读全文
posted @ 2025-09-25 10:27 海豚调度 阅读(64) 评论(0) 推荐(0)
摘要:《新兴数据湖仓设计与实践手册·数据湖仓建模及模型命名规范(2025年)》 由四篇递进式指南组成,以“模型架构—公共规范—分层规范—命名规范”为主线,系统构建可演进、可治理、可共享的现代数据湖仓。 首篇 《数据模型架构原则》 提出了 “ODS-DW-APP” 四层(含DW内DWD/DWM/DWS)数据 阅读全文
posted @ 2025-09-10 14:44 海豚调度 阅读(320) 评论(0) 推荐(0)
摘要:在项目上实际使用了 DolphinScheduler 一段时间后,我遇到了任务组功能因为 MySQL 时区的原因报错的问题。经过探索这个问题已经解决了,解决思路分享如下。 阅读全文
posted @ 2025-09-10 14:17 海豚调度 阅读(64) 评论(0) 推荐(0)
摘要:我们迎来了 Apache DolphinScheduler 的又一次重要更新——3.3.1 版本正式发布!🎉 阅读全文
posted @ 2025-08-27 15:34 海豚调度 阅读(303) 评论(0) 推荐(0)
摘要:在数据驱动与智能化的浪潮下,数据调度平台的价值正在被重新定义。天翼云翼 MR 与 Apache DolphinScheduler 的结合,不仅是一次技术选型,更是一次从社区到企业的深度融合与创新探索。 阅读全文
posted @ 2025-08-13 16:32 海豚调度 阅读(110) 评论(0) 推荐(0)
摘要:7 月份,Apache DolphinScheduler 社区持续高能迭代,多个核心模块迎来重要修复与优化。在 K8S 环境下解决了 PodIP 变化导致无法重新连接 Zookeeper 的问题,依赖任务、变量池、COS 资源管理等功能均获关键修复,提升了系统稳定性与可用性。 阅读全文
posted @ 2025-08-13 16:19 海豚调度 阅读(24) 评论(0) 推荐(0)
摘要:在调研了 DolphinScheduler 之后,在项目上实际使用了一段时间,有了一些使用Datax做数据集成的实际经验,分享如下。 阅读全文
posted @ 2025-08-06 14:55 海豚调度 阅读(930) 评论(0) 推荐(0)
摘要:本文将带你一步步通过外部PostgreSQL和Zookeeper来启动Apache DolphinScheduler。 阅读全文
posted @ 2025-07-31 16:29 海豚调度 阅读(118) 评论(0) 推荐(0)
摘要:本文描述通过 Rainbond 云原生应用管理平台 一键部署高可用的 DolphinScheduler 集群,这种方式适合给不太了解 Kubernetes、容器化等复杂技术的用户使用,降低了在 Kubernetes 中部署 DolphinScheduler 的门槛。 阅读全文
posted @ 2025-07-31 16:19 海豚调度 阅读(117) 评论(0) 推荐(0)
摘要:在本期技术分享中,我们将邀请天翼云研发专家,带来关于天翼云翼MR加载Apache DolphinScheduler的实践经验和社区贡献的精彩演讲。 阅读全文
posted @ 2025-07-31 16:05 海豚调度 阅读(57) 评论(0) 推荐(0)
摘要:DolphinScheduler 准备引入 Copilot 聊天助手啦!借助大语言模型(如 OpenAI),帮助用户智能编写 SQL、优化代码、答疑解惑,大幅提升开发体验。 阅读全文
posted @ 2025-07-17 16:31 海豚调度 阅读(60) 评论(0) 推荐(0)
摘要:用户可以在DolphinScheduler Web界面轻松创建、编辑和调度云原生数据仓库 AnalyticDB MySQL 版的Spark作业。 阅读全文
posted @ 2025-07-17 16:30 海豚调度 阅读(89) 评论(0) 推荐(0)