ESの奇妙な冒険前言——初识ES

于 2021-03-30 00:48:30 发布
阅读量449 收藏
点赞数
分类专栏： NoSQL非关系型数据库 # ElasticSearch 文章标签： elasticsearch 搜索引擎
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/JAVA_php_Jack/article/details/115315388
版权

ESの奇妙な冒険前言——初识ES

ESの奇妙な冒険前言——初识ES

ElasticSearch是用Java开发并且是当前最流行的开源的企业级搜索引擎。

能够达到实时搜索，稳定，可靠，快速，安装使用方便。

客户端支持Java、.NET（C#）、PHP、Python、Ruby等多种语言。

官方网站:https://www.elastic.co/

下载地址：https://www.elastic.co/cn/start

ElasticSearch与Lucene的关系

Lucene全文检索框架

什么是全文检索

全文检索是指：

  • 通过一个程序扫描文本中的每一个单词，针对单词建立索引，并保存该单词在文本中的位置以及出现的次数
  • 用户查询时，通过之前建立好的索引来查询，将索引中单词对应的文本位置、出现的次数返回给用户，因为有了具体文本的位置，所以就可以将具体内容读取出来了
分词原理之倒排索引

索引就类似于目录，平时我们使用的都是索引，都是通过主键定位到某条数据，那么倒排索引呢，刚好相反，数据对应到主键

ElasticSearch VS Lucene

Lucene可以被认为是迄今为止最先进、性能最好的、功能最全的搜索引擎库（框架）

但是想要使用Lucene，必须使用Java来作为开发语言并将其直接集成到应用中，并且Lucene的配置及使用非常复杂，需要深入了解检索的相关知识来理解它是如何工作的。

Lucene缺点：

1）只能在Java项目中使用，并且要以jar包的方式直接集成项目中

2）使用非常复杂：创建索引和搜索索引代码繁杂

3）不支持集群环境：索引数据不同步（不支持大型项目）

4）索引数据如果太多就不行，索引库和应用所在同一个服务器，共同占用硬盘，共用空间少

上述Lucene框架中的缺点，ES全部都能解决

ES vs Solr

当单纯的对已有数据进行搜索时，Solr更快。

当实时建立索引时，Solr会产生io阻塞，查询性能较差，ElasticSearch具有明显的优势。

大型互联网公司，实际生产环境测试，将搜索引擎从Solr转到 Elasticsearch以后的平均查询速度有了50倍的提升。

总结：

二者安装都很简单。

1、Solr 利用 Zookeeper 进行分布式管理，而ElasticSearch 自身带有分布式协调管理功能。

2、Solr 支持更多格式的数据，比如JSON、XML、CSV，而 ElasticSearch 仅支持JSON文件格式。

3、Solr 在传统的搜索应用中表现好于 ElasticSearch，但在处理实时搜索应用时效率明显低于 ElasticSearch。

4、Solr 是传统搜索应用的有力解决方案，但 ElasticSearch更适用于新兴的实时搜索应用。

ES vs 关系型数据库

关系型数据库database（数据库）table（表）row（行）column（列）
ElasticSearchindex（索引库）type（类型）document（文档）field（字段）

在ElasticSearch7版本之后，type统一都是_doc。

ElasticSearch中的核心概念

  1. 索引 index：一个索引就是一个拥有几分相似特征的文档的集合。比如说，可以有一个客户数据的索引，另一个产品目录的索引，还有一个订单数据的索引。一个索引由一个名字来标识（必须全部是小写字母的），并且当我们要对对应于这个索引中的文档进行索引、搜索、更新和删除的时候，都要使用到这个名字。

  2. 映射 mapping：ElasticSearch中的映射（Mapping）用来定义一个文档。mapping是处理数据的方式和规则方面做一些限制，如某个字段的数据类型、默认值、分词器、是否被索引等等，这些都是映射里面可以设置的。

  3. 字段 field：相当于是数据表的字段|列。

  4. 字段类型 type：每一个字段都应该有一个对应的类型，在7以上版本type都是_doc。

  5. 文档 document：一个文档是一个可被索引的基础信息单元，类似一条记录。文档以JSON（Javascript Object Notation）格式来表示。

  6. 集群 cluster：一个集群就是由一个或多个节点组织在一起，它们共同持有整个的数据，并一起提供索引和搜索功能。

  7. 节点 node：一个节点是集群中的一个服务器，作为集群的一部分，它存储数据，参与集群的索引和搜索功能。 一个节点可以通过配置集群名称的方式来加入一个指定的集群。默认情况下，每个节点都会被安排加入到一个叫做“elasticsearch”的集群中。这意味着，如果在网络中启动了若干个节点，并假定它们能够相互发现彼此，它们将会自动地形成并加入到一个叫做“elasticsearch”的集群中。 在一个集群里，可以拥有任意多个节点。而且，如果当前网络中没有运行任何Elasticsearch节点，这时启动一个节点，会默认创建并加入一个叫做“elasticsearch”的集群。

  8. 分片 shards：

    • 一个索引可以存储超出单个结点硬件限制的大量数据。比如，一个具有10亿文档的索引占据1TB的磁盘空间，而任一节点都没有这样大的磁盘空间；或者单个节点处理搜索请求，响应太慢

    • 为了解决这个问题，ElasticSearch提供了将索引划分成多份的能力，这些份就叫做分片

    • 当创建一个索引的时候，可以指定你想要的分片的数量

    • 每个分片本身也是一个功能完善并且独立的“索引”，这个“索引”可以被放置到集群中的任何节点上

    • 分片很重要，主要有两方面的原因

      1. 允许水平分割/扩展内容容量
      2. 允许在分片之上进行分布式的、并行的操作，进而提高性能/吞吐量

    • 至于一个分片怎样分布，它的文档怎样聚合回搜索请求，是完全由ElasticSearch管理的，对于作为用户来说，这些都是透明的

  9. 副本 replicas：

    • 在一个网络/云的环境里，失败随时都可能发生，在某个分片/节点不知怎么的就处于离线状态，或者由于任何原因消失了，这种情况下，有一个故障转移机制是非常有用并且是强烈推荐的。为此目的，Elasticsearch允许你创建分片的一份或多份拷贝，这些拷贝叫做副本分片，或者直接叫副本

    • 副本之所以重要，有两个主要原因

      1. 在分片/节点失败的情况下，提供了高可用性。注意到复制分片从不与原/主要（original/primary）分片置于同一节点上是非常重要的
      2. 扩展搜索量/吞吐量，因为搜索可以在所有的副本上并行运行。每个索引可以被分成多个分片。一个索引有0个或者多个副本。一旦设置了副本，每个索引就有了主分片和副本分片，分片和副本的数量可以在索引创建的时候指定。在索引创建之后，可以在任何时候动态地改变副本的数量，但是不能改变分片的数量。

ES数据管理

ES数据管理概述

ES是面向文档(document oriented)的，这意味着它可以存储整个对象或文档(document)。

然而它不仅仅是存储，还会索引(index)每个文档的内容使之可以被搜索。

在ES中，可以对文档（而非成行成列的数据）进行索引、搜索、排序、过滤。

ES使用JSON作为文档序列化格式。

JSON现在已经被大多语言所支持，而且已经成为NoSQL领域的标准格式。

基本操作

Restful认识

在基操之前，先认识Restful。

Restful是一种面向资源的架构风格，可以简单理解为：使用URL定位资源，用HTTP动词（GET,POST,DELETE,PUT）描述操作。 基于Restful API ，ES和所有客户端的交互都是使用JSON格式的数据，其他所有程序语言都可以使用Restful API，通过9200端口的与ES进行通信。

  • GET查询
  • PUT添加
  • POST修改
  • DELETE删除

使用Restful的好处：

  1. 透明性，暴露资源存在。

  2. 充分利用 HTTP 协议本身语义，不同请求方式进行不同的操作

基操

  1. 创建索引，格式：PUT /索引名称

    PUT /test

  2. 查询索引，格式：GET /索引名称

    GET /test

  3. 删除索引，格式：DELETE /索引名称

    DELETE /test

  4. 添加文档，格式：PUT /索引名称/类型/id

    PUT /test/_doc/1
{
"name": "jack",
"age": 53
}

PUT /test/_doc/2
{
"name": "pony",
"age": 42
}

PUT /test/_doc/3
{
"name": "rose",
"age": 18
}

  5. 修改文档，格式PUT /索引名称/类型/id

    PUT /test/_doc/1
{
"name": "jack",
"age": 50
}

    我们看返回的结果就是updated，并且版本号变成2了

    {
  "_index" : "test",
  "_type" : "_doc",
  "_id" : "1",
  "_version" : 2,
  "result" : "updated",
  "_shards" : {
    "total" : 2,
    "successful" : 1,
    "failed" : 0
  },
  "_seq_no" : 2,
  "_primary_term" : 1
}

    注意：POST和PUT都可以起到创建/更新的作用

    1. PUT需要对一个具体的资源进行操作也就是需要确定id才可以进行更新/创建操作，而POST是可以针对整个资源进行操作的，如果不写id就由ES生成一个唯一的id进行创建新文档，如果填了id那就针对这个id的文档进行创建/更新

      如下的例子，使用POST，不指定id，那么它不会更新现有的某个具体资源：
POST /test/_doc
{
"name": "jack",
"age": 43 
}
看看结果，我们可以知道，它是直接新建一个资源并且自动生成唯一的id：
{
  "_index" : "test",
  "_type" : "_doc",
  "_id" : "aQySfngBrdMpndasf2o4",
  "_version" : 1,
  "result" : "created",
  "_shards" : {
    "total" : 2,
    "successful" : 1,
    "failed" : 0
  },
  "_seq_no" : 3,
  "_primary_term" : 1
}
而如果指定id，则可以修改指定的资源：
POST /test/_doc/1
{
"name": "jack",
"age": 43 
}
结果：
{
  "_index" : "test",
  "_type" : "_doc",
  "_id" : "1",
  "_version" : 3,
  "result" : "updated",
  "_shards" : {
    "total" : 2,
    "successful" : 1,
    "failed" : 0
  },
  "_seq_no" : 4,
  "_primary_term" : 1
}

    2. PUT只会将JSON数据都进行替换，POST只会更新相同的字段

    3. PUT和DELETE都是幂等性的，即不论操作多少次，结果都是一样

  6. 查询文档，格式：GET /索引名称/类型/id

    GET /test/_doc/1

  7. 删除文档，格式DELETE /索引名称/类型/id

    DELETE /test/_doc/1
查询基操

因为在7版本以上type统一都是_doc，所以可以不用加类型进行查询：

  1. 查询当前类型中的所有文档 _search，格式：GET /索引名称/类型/_search

    GET /test/_doc/_search
类似于SQL：select * from test
结果提示不用type，但是依旧有结果，后面的查询操作都一样，就不加type了
#! Deprecation: [types removal] Specifying types in search requests is deprecated.
{
  "took" : 1,
  "timed_out" : false,
  "_shards" : {
    "total" : 1,
    "successful" : 1,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : {
      "value" : 3,
      "relation" : "eq"
    },
    "max_score" : 1.0,
    "hits" : [
      {
        "_index" : "test",
        "_type" : "_doc",
        "_id" : "aQySfngBrdMpndasf2o4",
        "_score" : 1.0,
        "_source" : {
          "name" : "jack",
          "age" : 43
        }
      },
      {
        "_index" : "test",
        "_type" : "_doc",
        "_id" : "2",
        "_score" : 1.0,
        "_source" : {
          "name" : "pony",
          "age" : 42
        }
      },
      {
        "_index" : "test",
        "_type" : "_doc",
        "_id" : "3",
        "_score" : 1.0,
        "_source" : {
          "name" : "rose",
          "age" : 18
        }
      }
    ]
  }
}

  2. 条件查询，比如要查age等于18岁，格式GET /索引名称/_search?q=*:**

    GET /test/_search?q=age:18
类似于SQL的select * from test where age = 18
结果：
{
  "took" : 29,
  "timed_out" : false,
  "_shards" : {
    "total" : 1,
    "successful" : 1,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : {
      "value" : 1,
      "relation" : "eq"
    },
    "max_score" : 1.0,
    "hits" : [
      {
        "_index" : "test",
        "_type" : "_doc",
        "_id" : "3",
        "_score" : 1.0,
        "_source" : {
          "name" : "rose",
          "age" : 18
        }
      }
    ]
  }
}

  3. 范围查询，如下：

    GET /test/_search?q=age:<=18
SQL:select * from test where age <= 18
(小于等于的就是:<=，大于等于的就是:>=，小于的就是:<，大于的就是:>)

GET /test/_search?q=age[42 TO 43]
SQL:select * from test where age between 42 and 43
(注意，是闭区间查询且TO要大写)

  4. 分页查询

    GET /test/_search?q=age[42 TO 43]&from=0&size=1
SQL:select * from test where age between 42 and 43 limit 0,1

  5. 查询结果排序：

    GET /test/_search?sort=age:desc
SQL:select * from test order by age desc
(和MySQL一样，升序asc，倒序desc)

  6. 只输出某字段_source=字段,字段

    GET /test/_search?_source=name
SQL:select name from test

  7. 根据多个id批量查询

    GET /test/_mget
{
"ids":["1","2"]
}
SQL:select * from test where id in (1,2)

目录

CentOS7下安装ES

评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值