Elasticsearch7.12搜索-索引mapping<1>

文章来源:索引mapping建立<1>

映射简介及类比

    映射也就是mapping,用来定义一个文档以及其所包含的字段如何被存储和索引,可以在映射中事先定义字段的数据类型、分词等属性。

与关系型数据库对比

在关系型数据库中创建数据表时会设置字段的类型,如下 创建user_info表,

create table user_info

(

  id         VARCHAR2(32) not null,

  name       VARCHAR2(50),

  tel        VARCHAR2(11),

  create_time DATE

)

es创建索引时同样可以设置字段的属性,作用是使索引的配置更加灵活和完善,可以在mapping中设置字段的类型、字段的权重等信息。    

字段类型

es字段类型主要有核心类型、复合类型、地理类型和特殊类型,具体分类如下:

一级分类

二级分类

具体类型

核心类型

字符串类型

string,text,keyword

整数类型

integer,long,short,byte

浮点类型

double,float,half_float,scaled_float

逻辑类型

boolean

日期类型

date

范围类型

range

二进制类型

binary

复合类型

数组类型

array

对象类型

object

嵌套类型

nested

父子类型

Join

地理类型

地理坐标类型

geo_point

地理地图

geo_shape

特殊类型

IP类型

ip

范围类型

completion

令牌计数类型

token_count

附件类型

attachment

抽取类型

percolator

上面我把常用mapping类型标红了。

字符串类型

(1)string

   string类型在ElasticSearch 旧版本中使用较多,从ElasticSearch 5.x开始不再支持string,由text和keyword类型替代。

(2)text

    当一个字段是要被全文搜索的,比如Email内容、产品描述,应该使用text类型。设置text类型以后,字段内容会被分析,在生成倒排索引以前,字符串会被分析器分成一个一个词项。text类型的字段不用于排序,很少用于聚合。

(3)keyword

    keyword类型适用于索引结构化的字段,比如email地址、主机名、状态码和标签。如果字段需要进行过滤(比如查找已发布博客中status属性为published的文章)、排序、聚合。keyword类型的字段只能通过精确值搜索到。

整数类型

类型

取值范围

byte

-128~127

short

-32768~32767

integer

-231~231-1

long

-263~263-1

   在满足需求的情况下,尽可能选择范围小的数据类型。比如,某个字段的取值最大值不会超过100,那么选择byte类型即可。迄今为止吉尼斯记录的人类的年龄的最大值为134岁,对于年龄字段,short足矣。字段的长度越短,索引和搜索的效率越高。

浮点类型

类型

取值范围

doule

64位双精度IEEE 754浮点类型

float

32位单精度IEEE 754浮点类型

half_float

16位半精度IEEE 754浮点类型

scaled_float

缩放类型的的浮点数

    对于float、half_float和scaled_float,-0.0和+0.0是不同的值,使用term查询查找-0.0不会匹配+0.0,同样range查询中上边界是-0.0不会匹配+0.0,下边界是+0.0不会匹配-0.0。其中scaled_float,比如价格只需要精确到分,price为57.34的字段缩放因子为100,存起来就是5734优先考虑使用带缩放因子的scaled_float浮点类型。

date类型

我们人类使用的计时系统是相当复杂的:秒是基本单位, 60秒为1分钟, 60分钟为1小时, 24小时是一天……如果计算机也使用相同的方式来计时, 那显然就要用多个变量来分别存放年月日时分秒, 不停的进行进位运算, 而且还要处理偶尔的闰年和闰秒以及协调不同的时区. 基于”追求简单”的设计理念, UNIX在内部采用了一种最简单的计时方式:

日期类型表示格式可以是以下几种:

(1)日期格式的字符串,比如 “2018-01-13” 或 “2018-01-13 12:10:30”

(2)long类型的毫秒数( milliseconds-since-the-epoch,epoch就是指UNIX诞生的UTC时间1970年1月1日0时0分0秒)

(3)integer的秒数(seconds-since-the-epoch)

ElasticSearch 内部会将日期数据转换为UTC,并存储为milliseconds-since-the-epoch的long型整数。

boolean类型

逻辑类型(布尔类型)可以接受true/false/”true”/”false”值

(1)先删除已经存在的索引,再创建

DELETE test

PUT test

{

  "mappings":{

    "my":{

      "properties": {

        "empty":{"type":"boolean"}

      }

    }

  }

}

 binary类型

二进制字段是指用base64来表示索引中存储的二进制数据,可用来存储二进制形式的数据,例如图像。默认情况下,该类型的字段只存储不索引。二进制类型只支持index_name属性。

array类型

在ElasticSearch中,没有专门的数组(Array)数据类型,但是,在默认情况下,任意一个字段都可以包含0或多个值,这意味着每个字段默认都是数组类型,只不过,数组类型的各个元素值的数据类型必须相同。在ElasticSearch中,数组是开箱即用的(out of box),不需要进行任何配置,就可以直接使用。

在同一个数组中,数组元素的数据类型是相同的,ElasticSearch不支持元素为多个数据类型:[ 10, “some string” ],常用的数组类型是:

(1)字符数组: [ “one”, “two” ]

(2)整数数组: productid:[ 1, 2 ]

(3)对象(文档)数组: “user”:[ { “name”: “Mary”, “age”: 12 }, { “name”: “John”, “age”: 10 }],ElasticSearch内部把对象数组展开为 {“user.name”: [“Mary”, “John”], “user.age”: [12,10]}

object类型

JSON天生具有层级关系,文档会包含嵌套的对象,obejct类型会使得内部对象的关联性丢失插入:对象数据"user": [{ "first": "John", "last":"Smith"}, { "first":"Alice","last":"White"}]转换后{"user.first":"alice","john"],"user.last":["smith", "white"]}

PUT test/my/1

{

  "employee":{

    "age":30,

    "fullname":{

      "first":"hadron",

      "last":"cheng"

    }

  }

}

上面文档整体是一个JSON,JSON中包含一个employee,employee又包含一个fullname。

GET test/_mapping

{

  "test": {

    "mappings": {

      "my": {

        "properties": {

          "employee": {

            "properties": {

              "age": { "type": "long"},

              "fullname": {

                "properties": {

                  "first": {

                    "type": "text",

                    "fields": {

                      "keyword": {

                        "type": "keyword",

                        "ignore_above": 256

                      }

                    }

                  },

                  "last": {

                    "type": "text",

                    "fields": {

                      "keyword": {

                        "type": "keyword",

                        "ignore_above": 256

                      }

                    }

                  }

                }

              }

            }

          }

        }

      }

    }

  }

}

ip类型

ip类型的字段用于存储IPv4或者IPv6的地址

(1)创建索引

DELETE test

PUT test

{

  "mappings": {

    "my":{

      "properties": {

        "nodeIP":{

          "type": "ip"

        }

      }

    }

  }

}

查询字段

GET test/_search

{

  "query": {

    "term": {

      "nodeIP": "192.168.0.0/16"

    }

  }

}

 {

  "took": 111,

  "timed_out": false,

  "_shards": {

    "total": 5,

    "successful": 5,

    "skipped": 0,

    "failed": 0

  },

  "hits": {

    "total": 1,

    "max_score": 1,

    "hits": [

      {

        "_index": "test",

        "_type": "my",

        "_id": "1",

        "_score": 1,

        "_source": {

          "nodeIP": "192.168.1.2"

        }

      }

    ]

  }

}

nested类型

nested类型就是为了解决object类型在对象数组上丢失关联性的问题的,如果将字段设置为nested类型,那个每一个嵌套对象都会被索引为一个 "隐藏的独立文档"

在Elasticsearch实战场景中,我们或多或少会遇到嵌套文档的组合形式

2)Nested嵌套类型

定义index mapping

PUT /my_index

{

    "mappings": {

        "_doc" : {

            "properties" : {

                "obj1" : {

                    "type" : "nested"

                }

            }

        }

    }

}

join类型

1)父子文档

父子文档在5.X版本中通过parent-child父子type实现,即:1个索引对应多个type;

6.X+版本已经不再支持一个索引多个type,6.X+的父子索引的实现改成Join。

静态映射

     静态映射是在创建索引时手工指定索引映射(即索引字段的类型),这个类似关系型数据库创建表指定字段类型。相比动态映射,静态映射可以更加详细、准确的配置信息。

创建mapping

PUT user_info

{

  "mappings": {

    "dynamic": false,

    "properties": {

      "title": {

        "type": "text",

        "analyzer": "ik_max_word",

        "search_analyzer": "ik_max_word"

      },

      "name": {

        "type": "keyword",

        "index": "true"

      },

      "address": {

        "type": "keyword",

        "index": "false"

      },

      "userIp": {

        "type": "ip"

      },

      "position ": { 

          "type" : "geo_point"

      },

      "china": {

        "type": "boolean"

      },

      "birthdate": {

        "type": "date",

        "format": "yyyy-MM-dd"

      }

    }

  }

}

图片

   我们看到右侧执行成功,如果出现"reason": "failed to find global analyzer [ik_max_word]" 检查ik分词插件是否装好。

如果觉得文章能帮到您,欢迎关注微信公众号:“蓝天Java大数据” ,共同进步!

 

扫码关注持续好文
<think>嗯,用户给了一个Log4stash的ElasticSearchAppender配置,让我帮忙看看哪里有问题并修改。首先,我需要仔细检查配置中的各个部分,看看有没有常见的错误或安全隐患。 首先看服务器地址和端口。服务器是47.122.122.95,端口9200,这看起来没问题,但得确认是不是正确的Elasticsearch地址。不过这部分用户应该自己确认,可能不需要修改。 然后是索引名称ktq_dev_logs_%{+yyyy-MM-dd},这里用了日期格式,应该是每天生成一个索引,这没问题。不过要注意Elasticsearch索引命名规则,是否小写,没有特殊字符,这里看起来符合。 接下来是认证部分。这里用了Basic认证,用户名log_writer1,密码Adn20250208。这里有个大问题,密码是明文显示,这在配置文件中是不安全的,特别是如果配置文件被提交到版本控制系统,就会泄露凭证。应该建议使用加密方式存储密码,比如Log4stash可能支持的SecureString或者环境变量。 然后是缓冲设置,Bulksize设置为1,BulkIdleTimeout也是1。Bulksize是指批量提交的大小,设为1的话每条日志都立即发送,失去了批量处理的意义,可能会影响性能。通常建议设为几百到几千,根据日志量调整。BulkIdleTimeout是等待时间,设为1秒可能太短,可以适当增加,比如10秒,这样在低流量时也能批量发送。 另外,可能缺少一些其他配置,比如是否启用SSL/TLS。如果Elasticsearch配置了HTTPS,这里可能需要设置Scheme为https,或者添加SSL相关的配置,否则可能导致连接失败。 还有,检查一下Log4stash的文档,确认配置项的正确性。比如Bulksize和BulkIdleTimeout是否正确,有些库可能用不同的参数名,比如batchSize或者bulkSize。还有认证部分的结构是否正确,比如是否需要在Basic里面嵌套Username和Password。 总结问题点:明文密码、缓冲设置不合理、可能缺少SSL配置。修改建议包括加密密码、调整缓冲参数、添加SSL设置。另外提醒用户检查服务器地址和端口,确保正确,以及索引命名是否符合规范。</think>这个配置存在以下几个问题需要改进: 1. **安全风险**: - 密码明文存储:`<Password>Adn20250208</Password>` 直接暴露了ES账户密码 - 建议修改为加密存储方式: ```xml <Password type="log4stash.Core.Cryptography.SecureString, log4stash"> <!-- 使用加密后的密文 --> <Value>加密后的字符串</Value> </Password> ``` 2. **缓冲设置不合理**: ```xml <Bulksize>1</Bulksize> <!-- 批量提交数量过低 --> <BulkIdleTimeout>1</BulkIdleTimeout> <!-- 空闲等待时间过短 --> ``` 建议调整为: ```xml <Bulksize>500</Bulksize> <!-- 每积累500条日志批量提交 --> <BulkIdleTimeout>10000</BulkIdleTimeout> <!-- 空闲10秒后自动提交 --> ``` 3. **缺少SSL配置**(如果ES启用了HTTPS): 需要补充SSL设置: ```xml <Scheme>https</Scheme> <!-- 默认是http --> <SSL>true</SSL> <AllowSelfSignedServerCert>true</AllowSelfSignedServerCert> <!-- 如果使用自签名证书 --> ``` 完整改进方案: ```xml <appender name="ElasticSearchAppender" type="log4stash.ElasticSearchAppender, log4stash"> <!-- 集群节点地址 --> <Server>47.122.122.95</Server> <Port>9200</Port> <Scheme>https</Scheme> <SSL>true</SSL> <!-- 索引名称(推荐小写+日期格式) --> <IndexName>ktq-dev-logs-%{+yyyy-MM-dd}</IndexName> <!-- 认证配置 --> <AuthenticationMethod> <AuthType>Basic</AuthType> <Basic> <Username>log_writer1</Username> <Password type="log4stash.Core.Cryptography.SecureString, log4stash"> <Value>ENCRYPTED_PASSWORD</Value> </Password> </Basic> </AuthenticationMethod> <!-- 优化后的缓冲设置 --> <Bulksize>500</Bulksize> <BulkIdleTimeout>10000</BulkIdleTimeout> <!-- 错误重试配置 --> <ReconnectInterval>5000</ReconnectInterval> <MaxRetry>3</MaxRetry> </appender> ``` 补充建议: 1. 索引名称建议改为全小写:`ktq-dev-logs` 2. 生产环境建议配置多个ES节点地址 3. 如果使用自签名证书,需添加证书指纹验证 4. 密码加密需要使用log4stash提供的加密工具生成密文 5. 建议添加失败重试机制配置 可以使用log4stash自带的加密工具生成密码: ```powershell SecureStringUtil.exe -e "Adn20250208" ```
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值