常见搜索引擎对比

常见搜索引擎对比教程

常见的 搜索引擎 包括有:Lucene、Solr、Elasticsearch、Sphinx 等。

Lucene

简介

Lucene 的开发语言是 Java,也是 Java 家族中最为出名的一个开源搜索引擎,在 Java 世界中已经是标准的全文检索程序,它提供了完整的查询引擎和索引引擎,没有中文分词引擎,需要自己去实现,因此用 Lucene 去做一个搜素引擎需要自己去架构,另外它不支持实时搜索。但是 solr 和 elasticsearch 都是基于 Lucene 封装。

优点

成熟的解决方案,有很多的成功案例。apache 顶级项目,正在持续快速的进步。庞大而活跃的开发社区,大量的开发人员。它只是一个类库,有足够的定制和优化空间:经过简单定制,就可以满足绝大部分常见的需求;经过优化,可以支持 10亿+ 量级的搜索。

缺点

需要额外的开发工作。所有的扩展,分布式,可靠性等都需要自己实现;非实时,从建索引到可以搜索中间有一个时间延迟,而当前的 “近实时”(Lucene Near Real Time search) 搜索方案的可扩展性有待进一步完善。

Apache Solr

简介

Solr 是一个高性能,采用 Java 开发,基于 Lucene 的全文搜索服务器。文档通过 Http 利用 XML 加到一个搜索集合中。

查询该集合也是通过 http 收到一个 XML 和 JSON 响应来实现。它的主要特性包括:高效、灵活的缓存功能,垂直搜索功能,高亮显示搜索结果,通过索引复制来提高可用性,提供一套强大 Data Schema 来定义字段,类型和设置文本分析,提供基于 Web 的管理界面等。

优点

  1. Solr 有一个更大、更成熟的用户、开发和贡献者社区。
  2. 支持添加多种格式的索引,如:HTML、PDF、微软 Office 系列软件格式以及 JSON、XML、CSV 等纯文本格式。
  3. Solr 比较成熟、稳定。
  4. 不考虑建索引的同时进行搜索,速度更快。

缺点

  1. 建立索引时,搜索效率下降,实时索引搜索效率不高。

Elasticsearch

简介

Elasticsearch 是一个基于 Lucene 构建的开源,分布式,RESTful 搜索引擎。设计用于云计算中,能够达到实时搜索,稳定,可靠,快速,安装使用方便。支持通过 HTTP 使用 JSON 进行数据索引。

优点

  1. Elasticsearch 是分布式的。不需要其他组件,分发是实时的,被叫做 ”Push replication”。
  2. Elasticsearch 完全支持 Apache Lucene 的接近实时的搜索。
  3. 处理多租户(multitenancy)不需要特殊配置,而 Solr 则需要更多的高级设置。
  4. Elasticsearch 采用 Gateway 的概念,使得完备份更加简单。
  5. 各节点组成对等的网络结构,某些节点出现故障时会自动分配其他节点代替其进行工作。

缺点

  1. 还不够自动(不适合当前新的 Index Warmup API)

Elasticsearch与Solr对比

  • 二者安装都很简单;
  • Solr 利用 Zookeeper 进行分布式管理,而 Elasticsearch 自身带有分布式协调管理功能;
  • Solr 支持更多格式的数据,而 Elasticsearch 仅支持 json 文件格式;
  • Solr 官方提供的功能更多,而 Elasticsearch 本身更注重于核心功能,高级功能多有第三方插件提供;
  • Solr 在传统的搜索应用中表现好于 Elasticsearch,但在处理实时搜索应用时效率明显低于 Elasticsearch。
  • 总之,Solr 是传统搜索应用的有力解决方案,但 Elasticsearch 更适用于新兴的实时搜索应用。

Sphinx

简介

Sphinx 一个基于 SQL 的全文检索引擎,特别为一些脚本语言(PHP,Python,Perl,Ruby)设计搜索 API 接口。

Sphinx 是一个用 C++ 语言写的开源搜索引擎,也是现在比较主流的搜索引擎之一,在建立索引的事件方面比 Lucene 快 50%,但是索引文件比 Lucene 要大一倍,因此 Sphinx 在索引的建立方面是空间换取事件的策略,在检索速度上,和 lucene 相差不大,但检索精准度方面 Lucene 要优于 Sphinx,另外在加入中文分词引擎难度方面,Lucene 要优于 Sphinx。其中 Sphinx 支持实时搜索,使用起来比较简单方便.

Sphinx 可以非常容易的与 SQL 数据库和脚本语言集成。当前系统内置 MySQL 和 PostgreSQL 数据库数据源的支持,也支持从标准输入读取特定格式的 XML 数据。通过修改源代码,用户可以自行增加新的数据源(例如:其他类型的 DBMS 的原生支持)

特点

  • 高速的建立索引(在当代 CPU 上,峰值性能可达到 10 MB/秒);
  • 高性能的搜索(在 2 – 4 GB 的文本数据上,平均每次检索响应时间小于 0.1 秒);
  • 可处理海量数据(目前已知可以处理超过 100 GB 的文本数据, 在单一 CPU 的系统上可 处理 100 M 文档);
  • 提供了优秀的相关度算法,基于短语相似度和统计(BM25)的复合 Ranking 方法;
  • 支持分布式搜索;
  • 支持短语搜索
  • 提供文档摘要生成
  • 可作为 MySQL 的存储引擎提供搜索服务;
  • 支持布尔、短语、词语相似度等多种检索模式;
  • 文档支持多个全文检索字段(最大不超过 32 个);
  • 文档支持多个额外的属性信息(例如:分组信息,时间戳等);
  • 支持断词;