Elasticsearch 第八篇:数据类型 Array、Nested、Object 的设计与应用

      在我的上一篇 《Elasticsearch 第七篇:父子结构mapping设计以及相关查询》中,通过建立电影索引库,将电影 film 与演员 actor 做了父子关系的联结,并做了相关查询,

但是实际上,父子关联查询并不是最推荐的设计方式。在实际应用中,通常要设计比较复杂的数据结构,才能满足业务需求的需要。

      例如:一部电影通常会有多个标签tag,经常需要通过对 tag 进行过滤和查询;一部电影有多个演员,每个演员又包含姓名、性别等信息,怎样设计数据结构会比较合理呢?

这一篇就针对电影数据来简单说明。

       注意,这里讨论的,都是 Elasticsearch 7.8 版本的,不同版本会有差异,请自行阅读相关资料。

一、Elasticsearch 数据类型

       基本数据类型:string(elasticsearch 7.x 版本之后分为 keyword 和 text ,区别是 keyword 支持排序、聚合,不支持分词;text 支持分词,不支持排序、聚合)、integer (整数类型)、boolean(布尔类型)、date(时间类型)等。

       特殊数据类型:geo_point(地理坐标类型)、ip(IP类型)等。

       复合类型:object(对象类型)、array(数组类型)、nested(嵌套类型)。

1、Object

      个人认为 object 类型实际上并没有什么用途,完全可以把二级字段转化为一级字段,所以不予讨论,有兴趣可以见第七篇的父子结构设计。

2、Array

      array 类型其实也是比较简单,例如现在有一部电影《画皮》,数据结构如下:

{
    "id":"000-111-222",
    "name":"画皮",
    "desc":"该电影由聊斋改编,讲述的是...",
    "tag":["古装","魔幻","爱情"]
}

       现在希望Elasticsearch 也为这三个标签建立索引,在这样的应用场景下,就可以用 array 类型来保存电影的3个标签——古装、魔幻、爱情。

       Elasticsearch 的数据映射可以这样定义:

{
  "mappings": {
    "properties": {
      "tag": {
        "type": "keyword" 
      },
      ...
    }
  }
}

       这样就为标签建立了索引,可以通过标签 tag 来查询电影,下文将会详细说明。

3、Nested

       nested 类型,指的是嵌套类型,也是本节重点讲解的类型。什么时候用到嵌套类型呢?

       还是以电影库作为例子,每一部电影都会有一个演员列表,每个演员有包含姓名、性别、年龄等信息,如果我们不仅要查询电影的基本信息,也希望能查询演员的相关信息,那么,在这样的场景下,就可以用 nested 这样的数据类型,下文将会详细说明。

二、建立测试索引库

       现在,建立电影索引库,涉及到三个主体:

       1、电影  film  ,包括 id(编号)、name(电影名称)、desc (电影介绍)

       2、电影标签 tag ,例如:爱情、战争、魔幻、古装

       3、演员 actors , 包括 id(编号)、name(演员姓名)、sex (演员性别)

       关联关系是:一部电影 film 对应多个演员 actor 、一部电影 film 对应多个标签 tag

       根据以上的分析,建立电影索引库 myfilm ,如下:

put http://localhost:9200/myfilm
{ 
    "mappings": { 
        "properties": { 
            "id":{
                "type": "keyword",
                "store":true
            },
            "name":{
                "type": "keyword",
                "store":true
            },
            "desc":{
                "type":"text",
                "store":true,
                "analyzer": "ik_max_word"
            },
            "tag":{
                "type": "keyword",
                "store":true
            },
            "actors":{
                "type": "nested",
                "properties":{
                    "id":{
                        "type": "keyword",
                        "store":true
                    },
                    "name":{
                        "type": "keyword",
                        "store":true
                    },
                    "sex":{
                        "type": "integer",
                        "store":true
                   }
               }
            }
        } 
    } 
}

 以上设计就是为了方便将电影数据存储起来,例如之前大火的影视作品《甄嬛传》,我们将《甄嬛传》的编号 id 设置为 film_001 ,给甄嬛传打上标签 tag(后宫、古装、清朝、爱情、宫斗),附上介绍 desc,

同时,将孙俪等演员信息也加入索引库中,那么,代码会将是如下:

put  http://localhost:9200/myfilm/_doc/film_001
{
    "id":"film_001",
    "name":"甄嬛传",
    "desc":"雍正元年,结束了血腥的夺位之争,新的君主(陈建斌 饰)继位,国泰民安,政治清明,但在一片祥和的表象之下,一股暗流蠢蠢欲动,尤其后宫,华妃(蒋欣 饰)与皇后(蔡少芬 饰)分庭抗礼,各方势力裹挟其中,凶险异常。十七岁的甄嬛(孙俪饰)与好姐妹眉庄(斓曦饰)、陵容(陶昕然饰)参加选秀,她本抱着来充个数的念头,可皇帝(陈建斌饰)偏相中了她的智慧、气节与端庄,最后三人一同入选。但因华妃(蒋欣饰)嚣张,步步紧逼,眉庄被冤,陵容变心,天真的甄嬛慢慢变成了后宫精明的女子。皇帝发现年羹尧(孙宁饰)的野心,令甄父剪除年氏一族,甄嬛终于斗倒了华妃。但由于甄嬛与先故纯元皇后的神似,皇后设计以纯元皇后的礼服陷害甄嬛,父亲(沈保平饰)也被文字狱牵连和奸人陷害而遭牢狱之灾,生下女儿后,心灰意冷的甄嬛选择出宫修行。在宫外幸得十七爷允礼(李东学饰)悉心照顾,二人相亲相爱,只等有机会远走高飞。后因误传十七爷死讯,甄嬛为保全腹中骨肉,设计与皇帝相遇,狠心断绝对十七爷的爱恋,重回宫中,再度与皇后相斗。后因生下双生子,同时甄父的冤案得以平反,重新被皇帝重用,甄氏一族再度崛起。甄嬛多次躲过皇后的陷害,最终扳倒皇后。可造化弄人,由于皇帝的疑心,最终却只能看着心上人允礼死在自己怀中,而与叶澜依(热依扎饰)合谋弑君。皇帝驾崩后,甄嬛养子弘历登基,甄嬛被尊为圣母皇太后,即便享尽荣华,但眼见一生姐妹沈眉庄血崩而亡,一生爱人允礼为保其周全而无憾自尽,不过是一代封建王朝的悲情故梦罢了。",
    "tag":["后宫","古装","清朝","爱情","宫斗"],
    "actors":[
        {
            "id":"actor_001",
            "name":"孙俪",
            "sex":0
        },
        {
            "id":"actor_002",
            "name":"陈建斌",
            "sex":1
        },
        {
            "id":"actor_003",
            "name":"蔡少芬",
            "sex":0
        },
        {
            "id":"actor_004",
            "name":"蒋欣",
            "sex":0
        },
        {
            "id":"actor_005",
            "name":"蓝盈盈",
            "sex":0
        }
    ]
}

再加入测试数据《画皮》:

put  http://localhost:9200/myfilm/_doc/film_002

{
    "id":"film_002",
    "name":"画皮",
    "desc":"秦汉年间,都尉王生率王家军在西域与沙匪激战中救回一绝色女子,并带回江都王府。对方为九霄美狐小唯披人皮所变。其皮必须用人心养护,故小唯的隐形助手小易,一只沙漠蜥蜴修成的妖,每隔几天便杀人取心供奉小唯,以表对小唯的爱意,江都城因此陷入一片恐怖中。小唯因王家军首领王生勇猛英俊对其萌生爱意,并不停用妖术诱惑王生,想取代王生妻子佩蓉的地位。王家军前统领庞勇武功高强,与王生、佩蓉情同手足,并暗恋佩蓉。后佩蓉嫁给王生,庞勇辞官出走成为流浪侠士。佩蓉发现小唯爱恋自己的丈夫,并觉察到她不是常人,暗中求助庞勇求他救助王生",
    "tag":["神话","古装","爱情","恐怖","鬼神","聊斋"],
    "actors":[
        {
            "id":"actor_101",
            "name":"赵薇",
            "sex":0
        },
        {
            "id":"actor_102",
            "name":"陈坤",
            "sex":1
        },
        {
            "id":"actor_103",
            "name":"周迅",
            "sex":0
        },
        {
            "id":"actor_104",
            "name":"孙俪",
            "sex":0
        },
        {
            "id":"actor_105",
            "name":"甄子丹",
            "sex":1
        }
    ]
}

再加入数据《红高粱》:

http://localhost:9200/myfilm/_doc/film_003

{
    "id":"film_003",
    "name":"红高粱",
    "desc":"20世纪30年代初,山东高密地区土匪横行,民不聊生。东北乡破落地主家19岁的女儿九儿,被贪财的父亲许给了麻风病的酒坊主儿子单扁郎,孔武有力的杠子头余占鳌喜欢九儿,杀掉了单家父子,九儿和余占鳌开始了一段不被乡民认可的爱情,并有了两个孩子。在酿酒师傅罗汉等人的帮助下,九儿逐渐从一个单纯的少女成长为干练的高粱酒坊女掌柜, 振兴了单家酒坊。余占鳌则带领兄弟们组成自己的武装力量,周旋于当地政府,土匪花脖子以及铁板会等多股势力之间。七七事变爆发,日军进占山东,打破了高密县往日的繁荣,在民族大义面前,余占鳌和各方势力不计前嫌,停止争端,共同抗日。内忧外患之际,九儿带领队伍,将日本鬼子引到了高粱地,点燃红高粱,与敌人同归于尽,用自己的生命在这片充满生命力的山东高密大地上撰写了爱与征服,野心和意志的传奇故事。",
    "tag":["抗战","山东","爱情","土匪","伦理","民国"],
    "actors":[
        {
            "id":"actor_201",
            "name":"周迅",
            "sex":0
        },
        {
            "id":"actor_202",
            "name":"朱亚文",
            "sex":1
        },
        {
            "id":"actor_203",
            "name":"于荣光",
            "sex":1
        },
        {
            "id":"actor_204",
            "name":"秦海璐",
            "sex":0
        }
    ]
}

三、Array 数据类型查询

       场景:查询包含标签 “鬼神” 的影视作品,代码如下:

get  http://localhost:9200/myfilm/_search
{
   "query": {
       "bool":{
             "must":[
                   {"match":{"tag":"鬼神"}}
             ]
       }
   }   
}

        这时,电影《画皮》被搜索出来,达到预期的效果。

       考虑到标签大部分时候是一个词,不需要分词,所以上面 tag 数据类型设置为 keyword ,如果标签是一段文本,也可以将 tag 类型设置为 text ,并进行分词,但在这个应用场景中,用 keyword 即可。

四、Nested 数据类型查询

1、场景:搜索周迅演过的作品

       这时候通过简单地文字对比即可,但是查询语句会有 “nested” 标记,嵌套比较多,如下

get  http://localhost:9200/myfilm/_search
{
   "query": {
       "bool":{
             "must":[
                {
                  "nested":{
                      "path":"actors",
                          "query":{
                                "bool":{
                                    "must":[
                                        {
                                            "match":{"actors.name":"周迅"}
                                        }
                                    ]
                                }
                         }
                    }
               }
           ]
       }
   }   
}

        这时候《画皮》、《红高粱》都命中,与预期相吻合,如果只想查出一部,还可以加过滤条件,例如  actors.name=“周迅”  actors.id=actor_201 ,这时候是:

get  http://localhost:9200/myfilm/_search
{
   "query": {
       "bool":{
             "must":[
                {
                        "nested":{
                            "path":"actors",
                            "query":{
                                "bool":{
                                    "must":[
                                        {
                                            "match":{"actors.name":"周迅"}
                                        },
                                        {
                                            "match":{"actors.id":"actor_201"}
                                        }
                                    ]
                                }
                            }
                        }
                }
             ]
       }
   }   
}

2、场景:查询周迅演过的、民国时期的作品

      分析:这个场景中,涉及到父子条件的综合查询,子级需要筛选演员名字,父级需要查询标签包含 “民国” ,查询条件会比较复杂,但是思路还是很清晰的,如下

http://localhost:9200/myfilm/_search

{
   "query": {
       "bool":{
             "must":[
                {
                        "nested":{
                            "path":"actors",
                            "query":{
                                "bool":{
                                    "must":[
                                        {
                                            "term":{"actors.name":"周迅"}
                                        }
                                    ]
                                }
                            }
                        }
                },
                {
                    "term":{"tag":"民国"}
                }
             ]
       }
   }   
}

       Nested 还可以增加、修改、删除,最简单粗暴的方法,就是直接覆盖某一部电影,当然还有更小范围的修改,有时间我再记录一下!

       此外,ik 分词要怎么安装,环境要怎么搭建 ,可以参考我的第一篇 《Elasticsearch 第一篇:在 Windows 上的环境搭建》

posted @ 2020-11-19 17:29  vincentfhr方海荣  阅读(3328)  评论(0编辑  收藏  举报