spring-data-mongodb 使用原生aggregate语句

除了特殊注释外,本文的测试结果均基于 spring-data-mongodb:1.10.6.RELEASE(spring-boot-starter:1.5.6.RELEASE),MongoDB 3.0.6


   考虑到大多数人都是来找答案的,所以先给出结论

// import org.springframework.data.mongodb.core.MongoTemplate;
mongoTemplate.getDb().doEval("db.user.aggregate([{$group:{_id:'$name',count:{$sum:'$age'}}}])");

注意:

  1、mongo shell 使用js语法,可以使用单引号或者双引号表示字符串,这里使用单引号,可以避免大量的 \ 转义符

  2、原生语句中的key:value部分,value只能是 [xxx] 、{xxx} 、 ‘xxx’ 三种格式的数据。

  2.1.2版本的spring-data-mongodb已经去掉了doEval方法,我们可以使用下面的方法自己拼接

//spring-boot-starter:2.1.0.RELEASE spring-data-mongodb:2.1.2.RELEASE
BasicDBObject bson = new BasicDBObject();
bson.put("$eval","db.user.aggregate([{$group:{_id:'$name',count:{$sum:'$age'}}}])");
Object object = mongoTemplate.getDb().runCommand(bson);

  其他的解决方法,如调用存储过程、拼接完整的BasicDBObject、继承Aggregate请见第三章:SPRING-DATA-MONGODB底层与MONGO-DRIVER的交互


 

  研究这个是因为遇到了一个业务需求,需要使用多种限制条件,返回多个统计字段。spring-data-mongodb提供的API不足以实现这么复杂的业务,所以就想到了直接使用原生的aggregate查询。

  mongo底层实现查询的方法主要有两种,一种是 db._collection_.doSomething({ ... }) ,另一种是db.runCommand({doSomething:_collection_ , ... }) ,我们将第一种称作函数,第二种称作命令

  那么,哪种才是 aggregate的原生查询?spring-data-mongodb底层究竟调用的是函数还是命令?如果你只是想完成工作的话,copy上面的代码,然后右上角点×,如果你想解决问题学点东西的话,欢迎继续看下去,我这边写了四章详细的分析过程,链接在底部

======2019-11-15补充原生语句转换方式补充======================================================

  提供了一个执行原生字符串aggregate语句的方法,对外暴露方法 dbAggregate(collectionName, pipeline)

  1 import com.mongodb.BasicDBList;
  2 import com.mongodb.BasicDBObject;
  3 import org.apache.commons.lang.StringUtils;
  4 import org.springframework.beans.factory.annotation.Autowired;
  5 import org.springframework.data.mongodb.core.MongoTemplate;
  6 import org.springframework.stereotype.Component;
  7 
  8 import javax.annotation.PostConstruct;
  9 import java.util.LinkedList;
 10 
 11 @Component
 12 public class MongoUtil {
 13 
 14     @Autowired
 15     MongoTemplate mongoTemplate;
 16 
 17     @PostConstruct
 18     public void test() {
 19         dbAggregate("user",
 20                 "([{$match:{name:wwl}},{$group:{_id:$name,count:{$sum:#NUM1}}},{$project:{count:#BOOtrue}}])");
 21     }
 22 
 23     /**
 24      * aggregate原生语句执行方法
 25      * @param collectionName 表名
 26      * @param pipeline 管道操作语句。【:后面的内容,默认string,数字或者布尔加标识符#NUM,#BOO】
 27      * @return {“result”:[结果], "ok":查询状态}
 28      */
 29     public Object dbAggregate(String collectionName, String pipeline){
 30         BasicDBObject bdr = new BasicDBObject();
 31         bdr.put("aggregate", collectionName);
 32         char[] c = pipeline.toCharArray();
 33         bdr.put("pipeline", appendWithChar(c));
 34         return mongoTemplate.getCollection("$cmd").findOne(bdr);
 35     }
 36 
 37 
 38     /**
 39      * 根据标点分组,并对分组数据处理转出最终的参数
 40      * @param c 待分组的字符串数组
 41      * @return 转换
 42      */
 43     private static Object appendWithChar(char[] c){
 44         LinkedList<Object> valuelist = new LinkedList();
 45         StringBuffer sb = new StringBuffer();
 46         for(char ele : c){
 47             if('{' == ele){
 48                 valuelist.add(new BasicDBObject());
 49             }else if('[' == ele){
 50                 valuelist.add(new BasicDBList());
 51             }else if(',' == ele || ']' == ele || '}' == ele){
 52                 if(sb.length() > 0){
 53                     valuelist.add(sb.toString());
 54                     sb.delete(0 , sb.length());
 55                 }
 56                 insertValue(valuelist);
 57             }else if(':' == ele){
 58                 valuelist.add(sb.toString());
 59                 sb.delete(0 , sb.length());
 60             }else{
 61                 sb.append(ele);
 62             }
 63         }
 64         return valuelist.getLast();
 65     }
 66 
 67     /**
 68      * 根据数据类型插入数据
 69      * @param valuelist [obj1,obj2] obj1.add(obj2) 或者 obj.put(obj1)。
 70      *                  add完后obj2失效,obj1有机会进入下一次插入数据判断;put完后obj1和obj2都失效
 71      */
 72     private static void insertValue(LinkedList<Object> valuelist) {
 73         Object value1 = checkValue(valuelist.removeLast());
 74         Object value2 = valuelist.getLast();
 75         if( value2  instanceof BasicDBList ){
 76             ((BasicDBList)value2).add(value1);
 77         }else{
 78             valuelist.removeLast();
 79             BasicDBObject dbObject = (BasicDBObject)valuelist.getLast();
 80             dbObject.put(value2.toString(), value1);
 81         }
 82     }
 83 
 84     /**
 85      * 根据标识符 #NUM\#BOO 判断value是否需要强转
 86      * @param o 待判断是否需要强转的参数
 87      * @return  处理后的参数
 88      */
 89     private static Object checkValue(Object o) {
 90         try {
 91             String[] str = StringUtils.split(o.toString(), "NUM");
 92             if( 2 == str.length &&  StringUtils.equals("#",str[0]) ){
 93                 return Long.parseLong(str[1]);
 94             }
 95 
 96             String[] str2 = StringUtils.split(o.toString(), "BOO");
 97             if( 2 == str2.length &&  StringUtils.equals("#",str2[0]) ){
 98                 return Boolean.valueOf(str2[1]);
 99             }
100         }catch (Exception e){
101             System.out.println("强转失败");
102             e.printStackTrace();
103         }
104         return o;
105     }
106 }

 


 


 目录

  一:spring-data-mongodb 使用原生aggregate语句

  二:mongo的runCommand与集合操作函数的关系

  三:spring-data-mongodb与mongo shell的对应关系

  四:mongo中的游标与数据一致性的取舍

posted @ 2018-11-12 21:40  有营养的yyl  阅读(...)  评论(...编辑  收藏