摘要:``` du -hs * | sort -h ``` 阅读全文
posted @ 2019-09-09 15:39 Ryan.Miao 阅读 (7) 评论 (0) 编辑
摘要:Airflow的第一个DAG ================= 考虑了很久,要不要记录airflow相关的东西, 应该怎么记录. 官方文档已经有比较详细的介绍了,还有各种博客,我需要有一份自己的笔记吗? 答案就从本文开始了. 本文将从一个陌生视角开始认知airflow,顺带勾勒出应该如何一步步搭建 阅读全文
posted @ 2019-09-09 08:48 Ryan.Miao 阅读 (123) 评论 (0) 编辑
摘要:使用Makefile构建Docker ===================== 刚开始学习docker命令的时候,很喜欢一个字一个字敲,因为这样会记住命令。后来熟悉了之后,每次想要做一些操作的时候就不得不 重复的输入以前的命令。当切换一个项目之后,又重复输入类似但又不完全相同的命令,仅仅通过his 阅读全文
posted @ 2019-08-27 08:57 Ryan.Miao 阅读 (316) 评论 (0) 编辑
摘要:Airflow1.10.4介绍与安装 ===================== 现在是9102年,8月中旬。airflow当前版本是1.10.4. 随着公司调度任务增大,原有的,基于crontab和mysql的任务调度方案已经不太合适了,需要寻找一个可以支持分布式扩容的调度系统解决方案。 最初瞄准 阅读全文
posted @ 2019-08-26 08:46 Ryan.Miao 阅读 (184) 评论 (0) 编辑
摘要:vim 基本命令查找和替换 ================== vim简单的命令用着还好。比如插入,删除,查询。但替换就用的比较少。所以,还是需要用的时候拿出来对照者看。 使用vim编辑文件: 进入之后的界面叫做命令模式界面。可以修改文件编辑的时候叫做插入模式。 (命令模式)冒号+指令 在vim命 阅读全文
posted @ 2019-08-23 19:36 Ryan.Miao 阅读 (58) 评论 (0) 编辑
摘要:定时清理docker私服镜像 =================== 使用CI构建docker镜像进行发布极大促进了大家的版本发布效率,于是镜像仓库也就急速膨胀。为了缓解磁盘压力,我们需要设置一些清理策略。 对于不同docker镜像的清理策略应该是不同的。比如,默认保留最近5个版本的镜像,对于工具类 阅读全文
posted @ 2019-08-22 11:31 Ryan.Miao 阅读 (231) 评论 (0) 编辑
摘要:如何使用Python连接ldap ==================== 好多使用ldap认证的软件都是Python的,比如superset和airflow, 好吧,他们都是airbnb家的。在配置ldap的时候可能会出现认证失败,你不知道是因为什么导致配置失败的。所以,就要 跟踪源码,看看内部怎 阅读全文
posted @ 2019-08-20 09:27 Ryan.Miao 阅读 (129) 评论 (0) 编辑
摘要:openldap介绍和使用 ================ 为什么会有本文? 早期,公司是没有统一认证这个东西的,所以各自玩各自的。于是, confluence一个用户体系,gitlab一个用户体系,Jenkins一个用户体系等等, 开发中要用到的开源软件数不胜数,每个软件都要认证, 必须想办法统 阅读全文
posted @ 2019-08-16 09:16 Ryan.Miao 阅读 (163) 评论 (0) 编辑
摘要:现在大部分的docke镜像是基于debian Docker容器是不支持后台服务的,像systemctl service crontab这些后台运行的服务是不能通过 类似这种方案实现的,你必须写自己的entrypoint脚本来启动。本文记录了基于Debian的docker容器设置定时任务的方式。 案例 阅读全文
posted @ 2019-08-15 20:59 Ryan.Miao 阅读 (32) 评论 (0) 编辑
摘要:docker挂载volume的用户权限问题,理解docker容器的uid =========================== 在刚开始使用docker volume挂载数据卷的时候,经常出现没有权限的问题。 这里通过遇到的问题来理解docker容器用户uid的使用,以及了解容器内外uid的映射关 阅读全文
posted @ 2019-08-02 14:36 Ryan.Miao 阅读 (481) 评论 (0) 编辑
摘要:Docker volume speed up npm install ================================ 上一节决定在Jenkins中采用Docker作为构建环境,于是就可以为所欲为的使用各种node版本编译我们的项目。解决了版本切换问题。然而,Docker设计的目的就 阅读全文
posted @ 2019-07-26 16:38 Ryan.Miao 阅读 (142) 评论 (0) 编辑
摘要:如何挑选node docker镜像 ====================== 在使用Jenkins构建前端项目的时候遇到一点问题: node的版本问题。 由于可能编译的项目历史不同,所依赖的node版本也各有千秋,直接把所有项目都升级到最新的也不合理。所以必须针对不同的项目使用不同node构建环 阅读全文
posted @ 2019-07-25 18:31 Ryan.Miao 阅读 (177) 评论 (1) 编辑
摘要:我写的NPE 虽然不多, 但几乎每次系统出问题的时候,看到api返回值是空的,绝大多数是NPE造成的。 这时候会感慨一下谁写的bug,然后去补判空代码。 最近抽风,开始给自己写的代码添加UnitTest, 有时间就保证覆盖率90%吧,于是就发现了 隐藏NPE, 这在正常访问不会触发的NPE。 暂时收 阅读全文
posted @ 2019-07-16 20:26 Ryan.Miao 阅读 (207) 评论 (0) 编辑
摘要:如何忽略Findbugs的bug 除了用xml的形式去忽略一些文件和bug。最好用的还是注解: 下面的方法会有MT_CORRECTNESS和STYLE的bug。注解忽略方法为: 需要添加以下依赖 阅读全文
posted @ 2019-07-16 20:21 Ryan.Miao 阅读 (61) 评论 (0) 编辑
摘要:Ubuntu下修改快捷键 Intelij Idea在Ubuntu下的快捷键几乎和windows差不多,最常用的一个快捷键与系统冲突: idea是surround with. 我常用来添加try catch. 但Ubuntu里是用来启动Terminal的。 需要把terminal的快捷键换掉。 搜索s 阅读全文
posted @ 2019-07-16 16:33 Ryan.Miao 阅读 (113) 评论 (0) 编辑