Elasticsearch的简单入门：（二）ES基础

于 2019-03-07 10:50:59 发布
阅读量2.4k 收藏 27
点赞数 4
分类专栏： Elasticsearch 文章标签： ES索引库操作
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/kavito/article/details/88290222
版权

Elasticsearch的简单入门：（一）ES简介与安装：https://blog.youkuaiyun.com/kavito/article/details/88289820

前面我们把环境准备好了，下面继续学习ES的索引操作

2.操作索引

 2.1.基本概念

Elasticsearch也是基于Lucene的全文检索库，本质也是存储数据，很多概念与MySQL类似的。

对比关系：

索引集（indices）-----------------------------Databases 数据库

​ 类型（type）-----------------------------Table 数据表

​ 文档（Document）----------------Row 行

​ 字段（Field）-------------------Columns 列

6.0之前的版本有type（类型）概念，type相当于关系数据库的表，6.0以后慢慢弱化这个概念。ES官方将在之后的版本中彻底删除type。ES为什么要取消type的概念 

详细说明：

概念说明
索引库（indices)indices是index的复数，代表许多的索引，
类型（type）类型是模拟mysql中的table概念，一个索引库下可以有不同类型的索引，比如商品索引，订单索引，其数据格式不同。不过这会导致索引库混乱，因此未来版本中会移除这个概念
文档（document）存入索引库原始的数据。比如每一条商品信息，就是一个文档
字段（field）文档中的属性
映射配置（mappings）字段的数据类型、属性、是否索引、是否存储等特性

是不是与Lucene和solr中的概念类似。

另外，在SolrCloud中，有一些集群相关的概念，在Elasticsearch也有类似的：

  • 索引集（Indices，index的复数）：逻辑上的完整索引

  • 分片（shard）：数据拆分后的各个部分

  • 副本（replica）：每个分片的复制

下图中，将索引数据分成三个分片，每个分片有一个副本 

要注意的是：Elasticsearch本身就是分布式的，因此即便你只有一个节点，Elasticsearch默认也会对你的数据进行分片和副本操作，当你向集群添加新数据时，数据也会在新加入的节点中进行平衡。

2.2.创建索引

2.2.1.语法

Elasticsearch采用Rest风格API，因此其API就是一次http请求，你可以用任何工具发起http请求

创建索引的请求格式：

  • 请求方式：PUT

  • 请求路径：/索引库名

  • 请求参数：json格式：

{
    "settings": {
        "number_of_shards": 3,
        "number_of_replicas": 2
      }
}

settings：索引库的设置

  • number_of_shards：分片数量

  • number_of_replicas：副本数量

2.2.2.测试

可以用任何RestClient来测试：这里用Insomnia发送请求，test是索引库的名字

可以看到索引创建成功了。  

2.2.3.使用kibana创建

kibana的控制台，可以对http请求进行简化，示例：

 

相当省去了elasticsearch的服务器地址，而且还有语法提示，非常舒服。

2.3.查看索引设置

Get请求可以帮我们查看索引信息，格式：

GET /索引库名

或者，我们可以使用GET * 来查询所有索引库的配置。

2.4.删除索引

删除索引使用DELETE请求

DELETE /索引库名

删除成功

 

 我们也可以用HEAD请求，查看索引是否存在：

2.5.映射配置

索引有了，接下来肯定是添加数据。但是，在添加数据之前必须定义映射。

什么是映射？

​ 映射是定义文档的过程，文档包含哪些字段，这些字段是否保存，是否索引，是否分词等

只有配置清楚，Elasticsearch才会帮我们进行索引库的创建（不一定）

2.5.1.创建映射字段

请求方式依然是PUT

PUT /索引库名/_mapping/类型名称
{
  "properties": {
    "字段名": {
      "type": "类型",
      "index": true，
      "store": true，
      "analyzer": "分词器"
    }
  }
}

  • 类型名称：就是前面讲的type的概念，类似于数据库中的不同表

  • 字段名：任意填写 ，可以指定许多属性，例如：

    • type：类型，可以是text、long、short、date、integer、object等

    • index：是否索引，默认为true

    • store：是否存储，默认为false

    • analyzer：分词器，这里的ik_max_word即使用ik分词器

实例：发起请求

 

2.5.2.查看映射关系

语法：GET /索引库名/_mapping

GET /leyou/_mapping

 

2.5.3.字段属性详解

2.5.3.1.type

Elasticsearch中支持的数据类型非常丰富：

 我们说几个关键的：

  • String类型，又分两种：

    • text：可分词，不可参与聚合

    • keyword：不可分词，数据会作为完整字段进行匹配，可以参与聚合

  • Numerical：数值类型，分两类

    • 基本数据类型：long、interger、short、byte、double、float、half_float

    • 浮点数的高精度类型：scaled_float

      • 需要指定一个精度因子，比如10或100。elasticsearch会把真实值乘以这个因子后存储，取出时再还原。

  • Date：日期类型

    elasticsearch可以对日期格式化为字符串存储，但是建议我们存储为毫秒值，存储为long，节省空间。

  • 复杂类型如：数组，对象等

    比如存了个json对象：{people:{"name":"zhangSan","age":25}}，这个对象会被处理成两个字段：people.name和people.age

2.5.3.2.index影响字段的索引情况。

  • true：字段会被索引，则可以用来进行搜索。默认值就是true

  • false：字段不会被索引，不能用来搜索

index的默认值就是true，也就是说你不进行任何配置，所有字段都会被索引。

但是有些字段是我们不希望被索引的，比如商品的图片信息，就需要手动设置index为false。

2.5.3.3.store

是否将数据进行额外存储。

在学习lucene和solr时，我们知道如果一个字段的store设置为false，那么在文档列表中就不会有这个字段的值，用户的搜索结果中不会显示出来。

但是在Elasticsearch中，即便store设置为false，也可以搜索到结果。

原因是Elasticsearch在创建文档索引时，会将文档中的原始数据备份，保存到一个叫做_source的属性中。而且我们可以通过过滤_source来选择哪些要显示，哪些不显示。

而如果设置store为true，就会在_source以外额外存储一份数据，多余，因此一般我们都会将store设置为false，事实上，store的默认值就是false。

其它的不再一一讲解，用的不多，大家参考官方文档

 

2.6.新增数据

2.6.1.随机生成id

通过POST请求，可以向一个已经存在的索引库中添加数据。

POST /索引库名/类型名
{
    "key":"value"
}

示例：

POST /leyou/goods/
{
    "title":"小米手机",
    "images":"http://image.leyou.com/12479122.jpg",
    "price":2699.00
}

通过kibana查看数据：

  • _source：源文档信息，所有的数据都在里面。

  • _id：这条文档的唯一标识，与文档自己的id字段没有关联

2.6.2.自定义id

如果我们想要自己新增的时候指定id，可以这么做：POST /索引库名/类型/id值{...}

示例：新增一条id为2的数据

POST /乐优/goods/2
{
    "title":"红米手机",
    "images":"http://image.leyou.com/12479122.jpg",
    "price":2899.00
}

2.6.3.智能判断

然而在Solr中新增数据，只能使用提前配置好映射属性的字段，否则就会报错。

不过在Elasticsearch中并没有这样的规定。

事实上Elasticsearch非常智能，你不需要给索引库设置任何mapping映射，它也可以根据你输入的数据来判断类型，动态添加数据映射。

测试一下：

我们额外添加了stock库存，和saleable是否上架，brand品牌三个字段 。

再看下索引库的映射关系：

三个字段都被成功映射了，注意字符串类型的brand会分成text和keyword类型。

2.7.修改数据

把刚才新增的请求方式改为PUT，就是修改了。不过修改必须指定id，

  • id对应文档存在，则修改

  • id对应文档不存在，则新增

比如，我们把id为3的数据进行修改：

PUT /leyou/goods/3
{
    "title":"华为手机",
    "images":"http://image.leyou.com/12479122.jpg",
    "price":3899.00,
    "stock": 10000,
    "saleable":false，
    "brand":"华为"
}

 

2.8.删除数据

删除使用DELETE请求，同样，需要根据id进行删除：

DELETE /索引库名/类型名/id值

3.查询

  • 基本查询
  • 结果过滤_source
  • 高级查询
  • filter过滤
  • 排序

3.1.基本查询：

 GET /索引库名/_search
{
    "query":{
        "查询类型":{
            "查询条件":"查询条件值"
        }
    }
}

这里的query代表一个查询对象，里面可以有不同的查询属性

  • 查询类型：例如：match_all， match，term ， range 等

    • 查询条件：查询条件会根据类型的不同，写法也有差异，后面详细讲解

 

3.1.1 查询所有（match_all)

GET /leyou/_search
{
    "query":{
        "match_all": {}
    }
}

3.1.2 匹配查询（match）

 只有同时包含小米和电视的词条才会被搜索到

  • or关系
    match类型查询，会把查询条件进行分词，然后进行查询,多个词条之间是or的关系

  • and关系
    某些情况下，我们需要更精确查找，我们希望这个关系变成and，可以这样做：

  • minimum_should_match 
    match 查询支持 minimum_should_match 最小匹配参数， 这让我们可以指定必须匹配的词项数用来表示一个文档是否相关。我们可以将其设置为某个具体数字，更常用的做法是将其设置为一个百分数，因为我们无法控制用户搜索时输入的单词数量： 如果用户给定的条件分词后有 5 个查询词项，想查找只包含其中 4 个词的文档 ，只需指定最小匹配数时80%。

 

3.1.3 多字段查询（multi_match）

可以在多个字段中查询。

我们会在title字段和brand字段中查询华为这个词 ，只要有一个满足就会被搜索到。

3.1.4 词条匹配(term)

term 查询被用于精确值匹配，这些精确值可能是数字、时间、布尔或者那些未分词的字符串 (keyword)

 

3.1.5 多词条精确匹配(terms)

terms 查询和 term 查询一样，但它允许你指定多值进行匹配。如果这个字段包含了指定值中的任何一个值，那么这个文档满足条件。

 

3.2.结果过滤

默认情况下，elasticsearch在搜索的结果中，会把文档中保存在_source的所有字段都返回。

如果我们只想获取其中的部分字段，我们可以添加_source的过滤

3.2.1.直接指定字段

3.2.2.指定includes和excludesincludes：来指定想要显示的字段

  • excludes：来指定不想要显示的字段

二者都是可选的。

 

3.3 高级查询

3.3.1 布尔组合（bool)

 bool把各种其它查询通过must（与）、must_not（非）、should（或）的方式进行组合

  • 与：搜索条件的分词都必须匹配,match和term都要满足
  • 非：搜索条件分词必须都不匹配
  • 或：搜索条件分词只要有匹配就可以

3.3.2 范围查询(range)

 

  range查询允许以下字符：

操作符说明
gt大于
gte大于等于
lt小于
lte小于等于

3.3.3 模糊查询(fuzzy)

新增一个商品apple手机。

fuzzy 查询是 term 查询的模糊等价。它允许用户搜索词条与实际词条的拼写出现偏差，不指定fuzziness默认是1个偏差距离，例如搜索apple,输入adpla,这时偏差距离是2，通过fuzziness来指定允许的编辑距离，但是偏差的距离不得超过2。

 

3.4 过滤(filter)

条件查询中进行过滤:
        所有的查询都会影响到文档的评分及排名。如果我们需要在查询结果中进行过滤，并且不希望过滤条件影响评分，那么就不要把过滤条件作为查询条件来用。而是使用filter方式 。例如我想搜索2000-3000的小米手机，但我又不希望价格影响到我搜索小米手机的文档得分，那我把价格的范围查询放在filter里面。

注意：filter中还可以再次进行bool组合条件过滤。

无查询条件，直接过滤 :
        如果一次查询只有过滤，没有查询条件，不希望进行评分，我们可以使用constant_score取代只有 filter 语句的 bool 查询。在性能上是完全相同的，但对于提高查询简洁性和清晰度有很大帮助。

GET /leyou/_search
{
  "query": {
    "constant_score": {
      "filter": {
        "range": {"price": {"gte": 2000, "lte": 3000}}
      }
    }
  }
}

3.5 排序

3.4.1 单字段排序

sort 可以让我们按照不同的字段进行排序，并且通过order指定排序的方式

3.4.2 多字段排序

假定我们想要结合使用 price和 _score（得分） 进行查询，并且匹配的结果首先按照价格排序，然后按照相关性得分排序：

GET leyou/_search
{
  "query": {
    "bool": {
      "must": [{"match": {"title": "小米手机"}}],
      "filter": {
        "range": {"price": {"gte": 3000,"lte": 4000}}
      }
    }
  },
  "sort": [
    {"price": {"order": "desc"}},
    {"_score": {"order": "desc"}}
  ],
  "from": 0,
  "size": 10
} 

 

4. 聚合aggregations

聚合可以让我们极其方便的实现对数据的统计、分析。例如：

  • 什么品牌的手机最受欢迎？

  • 这些手机的平均价格、最高价格、最低价格？

  • 这些手机每月的销售情况如何？

实现这些统计功能的比数据库的sql要方便的多，而且查询速度非常快，可以实现实时搜索效果。

 

4.1 基本概念

Elasticsearch中的聚合，包含多种类型，最常用的两种，一个叫桶，一个叫度量：

桶（bucket）

桶的作用，是按照某种方式对数据进行分组，每一组数据在ES中称为一个桶，例如我们根据国籍对人划分，可以得到中国桶、英国桶，日本桶……或者我们按照年龄段对人进行划分：0~10,10~20,20~30,30~40等。

Elasticsearch中提供的划分桶的方式有很多：

  • Date Histogram Aggregation：根据日期阶梯分组，例如给定阶梯为周，会自动每周分为一组

  • Histogram Aggregation：根据数值阶梯分组，与日期类似 （以10为周期，自动分为0~10,10~20,20~30）

  • Terms Aggregation：根据词条内容分组，词条内容完全匹配的为一组

  • Range Aggregation：数值和日期的范围分组，指定开始和结束，然后按段分组

  • ……

综上所述，我们发现bucket aggregations 只负责对数据进行分组，并不进行计算，因此往往bucket中往往会嵌套另一种聚合：metrics aggregations即度量

度量（metrics）

分组完成以后，我们一般会对组中的数据进行聚合运算，例如求平均值、最大、最小、求和等，这些在ES中称为度量

比较常用的一些度量聚合方式：

  • Avg Aggregation：求平均值

  • Max Aggregation：求最大值

  • Min Aggregation：求最小值

  • Percentiles Aggregation：求百分比

  • Stats Aggregation：同时返回avg、max、min、sum、count等

  • Sum Aggregation：求和

  • Top hits Aggregation：求前几

  • Value Count Aggregation：求总数

  • ……

为了测试聚合，我们先批量导入一些数据

创建索引：

PUT /cars
{
  "settings": {
    "number_of_shards": 1,
    "number_of_replicas": 0
  },
  "mappings": {
    "transactions": {
      "properties": {
        "color": {
          "type": "keyword"
        },
        "make": {
          "type": "keyword"
        }
      }
    }
  }
}

注意：在ES中，需要进行聚合、排序、过滤的字段其处理方式比较特殊，因此不能被分词。这里我们将color和make这两个文字类型的字段设置为keyword类型，这个类型不会被分词，将来就可以参与聚合。

导入数据：

POST /cars/transactions/_bulk
{ "index": {}}
{ "price" : 10000, "color" : "red", "make" : "honda", "sold" : "2014-10-28" }
{ "index": {}}
{ "price" : 20000, "color" : "red", "make" : "honda", "sold" : "2014-11-05" }
{ "index": {}}
{ "price" : 30000, "color" : "green", "make" : "ford", "sold" : "2014-05-18" }
{ "index": {}}
{ "price" : 15000, "color" : "blue", "make" : "toyota", "sold" : "2014-07-02" }
{ "index": {}}
{ "price" : 12000, "color" : "green", "make" : "toyota", "sold" : "2014-08-19" }
{ "index": {}}
{ "price" : 20000, "color" : "red", "make" : "honda", "sold" : "2014-11-05" }
{ "index": {}}
{ "price" : 80000, "color" : "red", "make" : "bmw", "sold" : "2014-01-01" }
{ "index": {}}
{ "price" : 25000, "color" : "blue", "make" : "ford", "sold" : "2014-02-12" }

4.2 聚合为桶

首先，我们按照 汽车的品牌make来划分桶

 

 ​​​​​

  • hits：查询结果为空，因为我们设置了size为0

  • aggregations：聚合的结果

  • popular_colors：我们定义的聚合名称

  • buckets：查找到的桶，每个不同的make字段值都会形成一个桶

    • key：这个桶对应的make字段的值

    • doc_count：这个桶中的文档数量

通过聚合的结果我们发现，目前honda品牌生产的汽车比较畅销！

 

4.3 桶内度量

前面的例子告诉我们每个桶里面的文档数量，这很有用。 但通常，我们的应用需要提供更复杂的文档度量。 例如，每种品牌汽车的平均价格是多少？

因此，我们需要告诉Elasticsearch使用哪个字段，使用何种度量方式进行运算，这些信息要嵌套在桶内，度量的运算会基于桶内的文档进行。

现在，我们为刚刚的聚合结果添加求价格平均值的度量：

  • aggs：我们在上一个aggs(popular_colors)中添加新的aggs。可见度量也是一个聚合,度量是在桶内的聚合

  • avg_price：聚合的名称

  • avg：度量的类型，这里是求平均值

  • field：度量运算的字段

4.4 桶内嵌套桶

刚刚的案例中，我们在桶内嵌套度量运算。事实上桶不仅可以嵌套运算， 还可以再嵌套其它桶。也就是说在每个分组中，再分更多组。

比如：我们想统计每个制造商品牌的汽车中，分别有哪些颜色，按照color字段再进行分桶

 

  • 可以看到，新的聚合colors被嵌套在原来每一个make的桶中。

  • 每个制造商下面都根据 color字段进行了分组

以截图中福特汽车为例，我们可以知道：

  • 有两辆汽车是福特制造的

  • 福特汽车平均售价是 $27，500 美元。

  • 其中一辆是蓝色，一辆是绿色的

 

4.5.划分桶的其它方式

前面讲了，划分桶的方式有很多，例如：

  • Date Histogram Aggregation：根据日期阶梯分组，例如给定阶梯为周，会自动每周分为一组

  • Histogram Aggregation：根据数值阶梯分组，与日期类似

  • Terms Aggregation：根据词条内容分组，词条内容完全匹配的为一组

  • Range Aggregation：数值和日期的范围分组，指定开始和结束，然后按段分组

刚刚的案例中，我们采用的是Terms Aggregation，即根据词条划分桶。

接下来，我们再学习几个比较实用的：

4.5.1.范围分桶range

范围分桶与阶梯分桶类似，也是把数字按照阶段进行分组，只不过range方式需要你自己指定每一组的起始和结束大小。

4.5.2.阶梯分桶Histogram

histogram是把数值类型的字段，按照一定的阶梯大小进行分组。你需要指定一个阶梯值（interval）来划分阶梯大小。

举例：

比如你有价格字段，如果你设定interval的值为200，那么阶梯就会是这样的：

0，200，400，600，...

上面列出的是每个阶梯的key，也是区间的启点。

如果一件商品的价格是450，会落入哪个阶梯区间呢？计算公式如下：

bucket_key = Math.floor((value - offset) / interval) * interval + offset

value：就是当前数据的值，本例中是450

offset：起始偏移量，默认为0

interval：阶梯间隔，比如200

因此你得到的key = Math.floor((450 - 0) / 200) * 200 + 0 = 400

实践出真知：

比如，我们对汽车的价格进行分组，指定间隔interval为5000：

参数min_doc_count为1，来约束最少文档数量为1，这样文档数量为0的桶会被过滤

如果你用kibana将结果变为柱形图，会更好看：

 

 ES的基础知识学习完毕！下篇文章开始Spring Data Elasticsearch的学习之旅！

 

评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值