同步大文件到gitlab导致内存溢出

　　今天补一下3月16日的笔记。

一、问题引入

　　曾经我在防篡改监控的文章里提过，开发说不要把内网大文件上传到gitlab上【参考之前文章：https://www.cnblogs.com/windysai/p/14354460.htm

　　当时我也就听听，想着记住有这么回事，不要做这种骚操作就行。然后某天领导下发了一个任务，叫我把内网服务器的数据备份到线上，因为担心内网服务器会崩溃，主要是担心整个esxi宿主机，上面有各种虚拟机，有几台就是走上面截图的线路进行文章发布的。

　　这个定时上传其实是以一个静态目录的方式传到gitlab上的，假设叫做：status_ljy，里面有目录：html， r， u和文件：index.html 。

　　我备份的时候，实际上进去的是status_ljy，单独一个个小目录进行备份的。为啥这么搞，因为一大个status_ljy目录异常庞大，传输到线上容易中断，而且貌似不支持断点续传的。拆分成3个目录，比整个status_ljy备份传输会好点

　　于是没考虑这么多，就运行这堆命令对备份到线上的内网目录进行压缩打包：

1 [ljy@local-123-tomcat status_ljy]$ tar -cvf html.tar.gz_20210316_bak html
2 [ljy@local-123-tomcat status_ljy]$ tar -cvf r.tar.gz_20210316_bak r
3 [ljy@local-123-tomcat status_ljy]$ tar -cvf u.tar.gz_20210316_bak u

　　留意一开始说的那个线路图，把status_ljy整个目录定时单向传输到gitlab。上面的备份命令运行完，备份文件实际上是在 status_ljy 目录里面的。问题出现了：敲一个命令，半天没有反应，我一开始还以为中毒。好不容易运行top命令，发现这台local-123的机器负载非常高，git进程把服务器资源吃光了：

　试着连接宿主机esxi，重启这台机器，报错内存溢出：

　　于是干脆把这机器关了，硬件设置里给它加内存，无果。。。

　　这么多git进程，强制kill进程过一会儿又出来。想想也就是定时任务把文章传输到gitlab，再到线上这里用到。为了不增加服务器负载，就停了这个定时任务。然后手动运行同步脚本：

　　看着就是有个index.lock文件，类比mysql异常退出，也有个lock文件，不删除无法重新启动的方法，我试着去删掉，没用！

运行同步脚本上 git add . 卡死，不得不“ctrl + z” 强制终止。

二、原因发现及解决过程

　　当时我还没醒觉到具体是什么原因导致的，直到登上gitlab，发现多了些备份目录：u.tar.gz_20210316_bak等。然后就很急了（因为工作日运营的人发文章同步不了会找到我），直接在gitlab的web页面上删掉这些html.tar.gz_20210316_bak，r.tar.gz_20210316_bak。。。

　　然后报错信息变了，git add 说找不到提交过的文件