全文搜索 简介

 

数据的分类

  • 结构化数据
    具有固定格式、有限⻓度的数据,一般用关系数据库来处理。
  • 非结构化数据
    全⽂数据,⽆固定格式、不定⻓,比如邮件、word⽂档内容。

 

 

 

非结构化数据的2种处理方式

  • 顺序扫描
    从前往后依次扫描,效率低下。比如在一篇文章中搜索“java”,会把这篇文章从前往后扫描,标出“java”出现的地方。
  • 全文搜索
    从⾮结构化数据中提取关键字,组织为索引。对每一个词都建立一个索引,指明该词在非结构化数据(比如一篇文章)中出现的次数和位置。用户搜索时根据事先建立的索引来查找,将查找结果反馈给用户。检索效率很高。
    以上也是全文所搜引擎的原理。

 

 

 

全文搜索的特点|优点

  • 对非结构化数据的搜索支持好。关系型数据库对结构化数据的支持较差。
  • 搜索性能高。在海量数据(GB、TB、PB级别)下,搜索性能极高。面对这种量级的数据,关系型数据库无能为力。
  • 搜索灵活。搜索某个关键字,可以给出相关提示|预选项;会自动纠错,比如关键字打成了javb,会返回java的搜索结果。关系数据库的模糊查询其实是精确匹配的,没有这么智能。
  • 索引维护容易。如果用关系数据库搞全文索引,insert、update都会重新构建索引,不好维护。

以上也是为什么不使用关系数据库做全文检索的原因。

 

 

 

全文搜索的使用场景

  • 存储、检索海量的非结构化文本数据
  • 需要使用交互式的⽂本查询,用户输入部分关键字,会有提供相应的预选项。
  • 需要⾮常灵活的全⽂搜索,用户输入有误也会自动纠错。
  • 对事务安全、写操作、非文本数据操作的需求相对较少。既然是全文搜索,关注的是搜索,注重读,对写操作的支持差一些。

 

 

 

主流的全文搜索引擎

  • Lucene

Lucene是⼀个Java写的全⽂搜索引擎。Lucene不是⼀个完整的应⽤程序,只是⼀个代码库、API,⽤于向应⽤程序添加搜索功能。

Lucene很强大,但集成使用很复杂,Solr、ES都是基于Lucene的,对Lucene进行了集成、封装,简化了操作。

 

  • Solr

十分成熟的一款搜索引擎,提供分布式索引、复制、负载均衡查询以及⾃动故障转移和恢复,⾼可靠、高容错、可扩展、实时索引,常用于企业级应用。

Netflix、eBay、Instagram、亚⻢逊都在使⽤Solr。

 

  • ElasticSearch

后起之秀,提供Restful风格的接口,分布式搜索,数据分析、分组、聚合。

维基百科、Stack Overflow、GitHub都在使用ES。

ElasticSearch的使用场景:论坛、电商⽹站、⽇志数据分析等需要站内检索海量纯文本的项目。

 

posted @ 2020-04-08 10:51  chy_18883701161  阅读(653)  评论(0编辑  收藏  举报