摘要: 最近遇到的这些小问题终于能在网上找到解决方案了!终于不是spark-mongo和titanDB的那些必须查源码才能解决的东西了。。。 webbios操作,建议参考:http://blog.163.com/thomas_shen/blog/static/665799722011627113342321 阅读全文
posted @ 2017-11-03 14:42 月影舞华 阅读(431) 评论(0) 推荐(0) 编辑
摘要: 之前的多人项目大多使用了SVN作为版本控制,自己只会用eclipse连接GitHub的操作。这次项目采用了git作为版本控制系统,所以学会了很多新操作,这里权当记录,以备后用。 git的一些基本操作可参考http://www.ruanyifeng.com/blog/2015/12/git-cheat 阅读全文
posted @ 2017-10-26 16:22 月影舞华 阅读(252) 评论(0) 推荐(0) 编辑
摘要: 最近做数据备份的时候发现了有个很严重的问题,那就是数据丢失(最后证明没丢,是别的问题造成的)。 问题如下: 我通过两种方式在两个mongoDB集群中,对一组collection进行备份,最后2个备份数据的数据个数不相同,并且都小于原始collection的count结果。于是便开始寻求解决办法,流程 阅读全文
posted @ 2017-10-26 09:18 月影舞华 阅读(7406) 评论(0) 推荐(0) 编辑
摘要: 此文只是为了记录几个基本操作,首先Upsert,有多种方法可以进行,但是都需要指定UpdateOptions.upsert(true),其中最简单的办法如下(eqq是一个用来filter的BSON,具体用法请查看之前文章): 其次是InsertMany,在InsertMany中,如果出现dup-ke 阅读全文
posted @ 2017-10-19 16:48 月影舞华 阅读(7615) 评论(0) 推荐(0) 编辑
摘要: 1.$sample stage could not find a non-duplicate document while using a random cursor 这个问题比较难解决,因为我用mongodb spark connector没用到sample,但是在生成RDD的过程中会进行samp 阅读全文
posted @ 2017-10-19 16:42 月影舞华 阅读(1739) 评论(0) 推荐(0) 编辑
摘要: 1、多核心系统资源分配问题 就像提示中写的一样,启动脚本写成如下即可: 2、大内存页问题 我们cat一下上面两个文件,发现内容是“[always] madvise never”,我们需要根据提示将其改为never,但是这项设置不是很好改,所以一个比较简单的解决方案就是开机时将其修改了,并不改变默认配 阅读全文
posted @ 2017-10-17 11:12 月影舞华 阅读(627) 评论(0) 推荐(0) 编辑
摘要: 先上正确方法: 正确方式应该为,先创建一个ZipFile,然后对其entries做遍历,每一个entry其实就是一个文件或者文件夹,检测到文件夹的时候创建文件夹,其他情况创建文件,其中使用zipFile.getInputStream(entry)可以获得当前文件的输入流(注意是文件的输入流不是压缩文 阅读全文
posted @ 2017-09-29 12:11 月影舞华 阅读(5211) 评论(0) 推荐(0) 编辑
摘要: 前一阵跑程序时发现一个问题,同事导出了部分数据,但是在merge回原库时竟然和原库的数据对不上,后来找了半天发现是原库数据少了。 找了很多资料发现很多人认为的操作日志和我想的不太一样。。。找了半条才发现这个,在shard server上使用命令可以查看删除操作: 从而定位了到底什么时候删的数据。 这 阅读全文
posted @ 2017-09-26 09:59 月影舞华 阅读(532) 评论(0) 推荐(0) 编辑
摘要: 首先,我们明确的是访问Mongos和访问单机Mongod并没有什么区别。接下来的方法都是既可以访问mongod又可以访问Mongos的。 另外,读作java写作scala,反正大家都看得懂......大概? 1、不带认证集群的连接方法(JAVAscala): 首先是创建连接的方法,我们先声明一个cl 阅读全文
posted @ 2017-08-23 17:57 月影舞华 阅读(1682) 评论(0) 推荐(0) 编辑
摘要: mongodb集群的权限管理分为两部分,一部分是最常用的Role-Based Access Control,也就是用户名密码方式,这种验证方式一般出现在单机系统,或者集群中client端连接Mongos端;另一种是Internal Authentication.有英文基础想获取security完整信 阅读全文
posted @ 2017-08-23 17:20 月影舞华 阅读(315) 评论(0) 推荐(0) 编辑