会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
genius
persist and you will get it
博客园
首页
新随笔
联系
订阅
管理
上一页
1
···
7
8
9
10
11
12
13
14
15
···
19
下一页
2024年4月16日
ETL工具-nifi干货系列 第十二讲 nifi处理器UpdateRecord使用教程
摘要: 1、上一节课我们讲解了nifi处理器UpdateAttribute,专门用来更新flowFile的属性字段。本节课我们一起来学习UpdateRecord,该处理器用来更新flowFile的流文件内容数据,如下图所示 本节教程比较简单,涉及处理器流程如下 使用处理器GenerateFlowFile生成
阅读全文
posted @ 2024-04-16 08:28 慕容尘轩
阅读(747)
评论(0)
推荐(0)
2024年4月14日
kettle从入门到精通 第五十二课 ETL之kettle Avro output
摘要: 1、上一节课我们学习了avro input,本节课我们一起学习下avro out步骤。 本节课通过json input 加载json文件,通过avro out 生成avro二进制文件,写日志步骤打印日志。将json input、avro output、写日志三个步骤拖到画布,然后连线,如下图所示:
阅读全文
posted @ 2024-04-14 16:38 慕容尘轩
阅读(551)
评论(0)
推荐(0)
ETL工具-nifi干货系列 第十一讲 处理器UpdateAttribute使用教程
摘要: 1、在这里我们重温下nifi里面一个重要的概念FlowFile,如下图所示: FlowFile:FlowFile代表NiFi中的单个数据。nifi数据流中流动的就是flowfile,每个nifi处理器处理的数据也是基于flowfile的。 FlowFile由两个组件组成:FlowFile属性(att
阅读全文
posted @ 2024-04-14 16:38 慕容尘轩
阅读(906)
评论(0)
推荐(0)
2024年4月9日
ETL工具-nifi干货系列 第十讲 处理器RouteOnAttribute(数据流路由)
摘要: 1、今天我们一起来学习下处理器RouteOnAttribute,此处理器的作用是根据属性值进行路由进而来控制数据流的走向。类似于java中的if-else或者switch-case。如下图所示。 GenerateFlowFile 产生测试数据,{"name":"Javax 小金刚","id":"2"
阅读全文
posted @ 2024-04-09 18:28 慕容尘轩
阅读(673)
评论(0)
推荐(0)
2024年4月8日
ETL工具-nifi干货系列 第九讲 处理器EvaluateJsonPath,根据JsonPath提取字段
摘要: 1、其实这一节课本来按照计划一起学习RouteOnAttribute处理器(相当于java中的ifelse,switch case 控制语句),但是在学习的过程中遇到了一些问题。RouteOnAttribute 需要依赖处理器EvaluateJsonPath,所以本节课我们一起来学习下Evaluat
阅读全文
posted @ 2024-04-08 13:10 慕容尘轩
阅读(537)
评论(0)
推荐(0)
2024年4月5日
ETL工具-nifi干货系列 第八讲 处理器PutDatabaseRecord 写数据库(详细)
摘要: 1、本节通过一个小例子来讲解下处理器PutDatabaseRecord,该处理器的作用是将数据写入数据库。 如下流程通过处理器GenerateFlowFile 生成数据,然后通过处理器JoltTransformJSON转换结构,最后通过处理器PutDatabaseRecord将数据写入数据库。如下图
阅读全文
posted @ 2024-04-05 19:47 慕容尘轩
阅读(556)
评论(0)
推荐(0)
kettle从入门到精通 第五十一课 ETL之kettle Avro input
摘要: 1、我们在学习nifi的过程中有接触到Avro schema,当时我在想kettle应该也支持Avro,果不其然kettle也是支持Avro文件的读和写的。今天我们一起来学习下kettle中如何使用Avro input 读步骤。对Avro 不了解的,可以学习文章ETL工具-nifi干货系列 第四讲
阅读全文
posted @ 2024-04-05 19:46 慕容尘轩
阅读(971)
评论(0)
推荐(0)
2024年4月2日
ETL工具-nifi干货系列 第七讲 处理器JoltTransformJSON(续)
摘要: 第六讲教程只简单介绍了Jolt的chain转换模式,本节课介绍下Jolt的各种转换模式。 点击的处理器JoltTransformJSON高级配置选项,进行测试Jolt的转换模式。 1、Cardinality:更改了输入JSON数据元素的基数,适用于jsonObj和jsonList 之间的转换。 li
阅读全文
posted @ 2024-04-02 18:24 慕容尘轩
阅读(563)
评论(0)
推荐(0)
2024年4月1日
ETL工具-nifi干货系列 第六讲 处理器JoltTransformJSON
摘要: 1、处理器作用 使用Jolt转换JSON数据为其他结构的JSON,成功的路由到'success',失败的'failure'。处理JSON的实用程序不是基于流的,因此大型JSON文档转换可能会消耗大量内存。 Jolt:JSON 到 JSON 转换库,用 Java 编写,其中转换的 "规范" 或者描述文
阅读全文
posted @ 2024-04-01 21:07 慕容尘轩
阅读(941)
评论(0)
推荐(0)
2024年3月28日
ETL工具-nifi干货系列 第五讲 处理器GenerateFlowFile
摘要: 1、今天我们一起来学习处理器GenerateFlowFile。这个处理器创建带有随机数据或自定义内容的 FlowFiles。GenerateFlowFile 对于负载测试、配置和模拟非常有用。从工具栏拖动处理器到画布,然后选择GenerateFlowFile即可。 2、点击add按钮或者双击 Gen
阅读全文
posted @ 2024-03-28 15:06 慕容尘轩
阅读(452)
评论(0)
推荐(0)
上一页
1
···
7
8
9
10
11
12
13
14
15
···
19
下一页
公告