摘要: 文章目录 前言 基本语法 常用选项 用法举例 打印 替换 删除 参考资料 文章目录 前言 基本语法 常用选项 用法举例 打印 替换 删除 参考资料 前言 基本语法 常用选项 用法举例 打印 替换 删除 参考资料 基本语法 常用选项 用法举例 打印 替换 删除 打印 替换 删除 前言 sed - st 阅读全文
posted @ 2019-03-10 11:05 LestatZ 阅读(1153) 评论(0) 推荐(0) 编辑
摘要: 文章目录 前言 find用法举例 基本用法 列出当前目录和子目录下的所有文件 查找特定目录下的文件 查找特定文件名的文件 查找特定的文件类型 在多个目录下查找 反向查找 进阶用法 限制目录查找的深度 查找指定权限的文件 基于文件拥有者和用户组的查找 基于日期和时间的查找 基于文件大小的查找 找出空文 阅读全文
posted @ 2019-03-09 20:57 LestatZ 阅读(792) 评论(0) 推荐(0) 编辑
摘要: 感觉年纪大了,事情多了,很多事情一开始记得但是后来就忘记了,于是今天就想找一个to-do类的软件来拯救我的拯救遗忘症。首先,整理下我的需求,或者说我对这个app期望的功能:可跨平台使用跨平台这点对我来说很重要,最好就是能在电脑端(Windows/macOS)... 阅读全文
posted @ 2019-03-09 20:04 LestatZ 阅读(462) 评论(0) 推荐(0) 编辑
摘要: 在pig load数据时候,如果不指定类型,则字段类型默认为bytearray。然后pig会根据上下文,隐式转换数据。 Map类型的值默认为bytearray类型 bytearray类型在pig中没有常量表示 在定义schema时,我们可以只提供字段名字而不指定字段类型; 在这种情况下,字段类型默认 阅读全文
posted @ 2019-03-07 22:17 LestatZ 阅读(260) 评论(0) 推荐(0) 编辑
摘要: 在Hive中使用INSERT OVERWRITE时, 数据会先被写入到数据文件夹的临时文件内,类似于 .hive-staging_hive_ 开头的文件 然后删除所有原文件,将临时文件重命名为”原文件“ 参考资料 what-is-the-behaviour-of-select-during-an-i 阅读全文
posted @ 2019-03-02 23:12 LestatZ 阅读(930) 评论(0) 推荐(0) 编辑
摘要: 文章目录前言准备工作创建一个新的Scrapy项目定义一个爬虫Spider导出抓取数据保存数据到数据库(MongoDB)前言之前用python写了一个简单的爬虫项目用来抓取上海链家上的一些房价信息,整理了下代码,特此记录准备工作安装Scrapy创建一个新的Sc... 阅读全文
posted @ 2019-03-02 12:06 LestatZ 阅读(455) 评论(0) 推荐(0) 编辑
摘要: 文章目录前言词汇表前言看书整理的时候遇到一些词汇不知道怎么翻译成中文好,于是整理了一些词汇解释的笔记,整理成如下词汇表词汇表angle brackets 尖括号 iterate over 迭代 array buffers 数组缓冲 i... 阅读全文
posted @ 2019-03-02 10:07 LestatZ 阅读(214) 评论(0) 推荐(0) 编辑
摘要: 文章目录前言最佳实践前言和Talend这款软件打交道有一段时间了,主要用它来做一些ETL相关的作业开发,以下总结了一些自己配置与开发过程中的最佳实践。最佳实践可以通过修改Talend Studio 的 .ini 配置文件来给其分配更多的内存,例如,以下是我在... 阅读全文
posted @ 2019-03-01 21:24 LestatZ 阅读(779) 评论(0) 推荐(0) 编辑
摘要: 文章目录 问题描述 什么是applicationId 解决方法 文章目录 问题描述 什么是applicationId 解决方法 问题描述 什么是applicationId 解决方法 问题描述 什么是applicationId 解决方法 问题描述 什么是applicationId 解决方法 问题描述 阅读全文
posted @ 2019-03-01 20:15 LestatZ 阅读(1534) 评论(0) 推荐(0) 编辑
摘要: JVM主要的内存区域有heapstack其它寄存器。heap主要是用来存储对象实例及数组值,可以认为java中所有通过new创建的对象都在此分配。On-heap是指在堆内内存,由GC进行创建回收,可以通过参数-Xms(最小)和-Xmx(最大)来控制Off-h... 阅读全文
posted @ 2019-03-01 19:24 LestatZ 阅读(1960) 评论(0) 推荐(0) 编辑