10 2017 档案

摘要:之前的多人项目大多使用了SVN作为版本控制,自己只会用eclipse连接GitHub的操作。这次项目采用了git作为版本控制系统,所以学会了很多新操作,这里权当记录,以备后用。 git的一些基本操作可参考http://www.ruanyifeng.com/blog/2015/12/git-cheat 阅读全文
posted @ 2017-10-26 16:22 月影舞华 阅读(264) 评论(0) 推荐(0)
摘要:最近做数据备份的时候发现了有个很严重的问题,那就是数据丢失(最后证明没丢,是别的问题造成的)。 问题如下: 我通过两种方式在两个mongoDB集群中,对一组collection进行备份,最后2个备份数据的数据个数不相同,并且都小于原始collection的count结果。于是便开始寻求解决办法,流程 阅读全文
posted @ 2017-10-26 09:18 月影舞华 阅读(7571) 评论(0) 推荐(0)
摘要:此文只是为了记录几个基本操作,首先Upsert,有多种方法可以进行,但是都需要指定UpdateOptions.upsert(true),其中最简单的办法如下(eqq是一个用来filter的BSON,具体用法请查看之前文章): 其次是InsertMany,在InsertMany中,如果出现dup-ke 阅读全文
posted @ 2017-10-19 16:48 月影舞华 阅读(7752) 评论(0) 推荐(0)
摘要:1.$sample stage could not find a non-duplicate document while using a random cursor 这个问题比较难解决,因为我用mongodb spark connector没用到sample,但是在生成RDD的过程中会进行samp 阅读全文
posted @ 2017-10-19 16:42 月影舞华 阅读(1792) 评论(0) 推荐(0)
摘要:1、多核心系统资源分配问题 就像提示中写的一样,启动脚本写成如下即可: 2、大内存页问题 我们cat一下上面两个文件,发现内容是“[always] madvise never”,我们需要根据提示将其改为never,但是这项设置不是很好改,所以一个比较简单的解决方案就是开机时将其修改了,并不改变默认配 阅读全文
posted @ 2017-10-17 11:12 月影舞华 阅读(653) 评论(0) 推荐(0)