Elasticsearch的核心概念

1、lucene和elasticsearch的前世今生
2、elasticsearch的核心概念
3、elasticsearch核心概念 vs. 数据库核心概念


1、lucene和elasticsearch的前世今生

lucene,最先进、功能最强大的搜索库,直接基于lucene开发,非常复杂,api复杂(实现一些简单的功能,写大量的java代码),需要深入理解原理(各种索引结构)

elasticsearch,基于lucene,隐藏复杂性,提供简单易用的restful api接口、java api接口(还有其他语言的api接口)
(1)分布式的文档存储引擎
(2)分布式的搜索引擎和分析引擎
(3)分布式,支持PB级数据

开箱即用,优秀的默认参数,不需要任何额外设置,完全开源

关于elasticsearch的一个传说,有一个程序员失业了,陪着自己老婆去英国伦敦学习厨师课程。程序员在失业期间想给老婆写一个菜谱搜索引擎,觉得lucene实在太复杂了,就开发了一个封装了lucene的开源项目,compass。后来程序员找到了工作,是做分布式的高性能项目的,觉得compass不够,就写了elasticsearch,让lucene变成分布式的系统。

2、elasticsearch的核心概念

(1)Near Realtime(NRT):近实时,两个意思,从写入数据到数据可以被搜索到有一个小延迟(大概1秒);基于es执行搜索和分析可以达到秒级

(2)Cluster:集群,包含多个节点,每个节点属于哪个集群是通过一个配置(集群名称,默认是elasticsearch)来决定的,对于中小型应用来说,刚开始一个集群就一个节点很正常
(3)Node:节点,集群中的一个节点,节点也有一个名称(默认是随机分配的),节点名称很重要(在执行运维管理操作的时候),默认节点会去加入一个名称为“elasticsearch”的集群,如果直接启动一堆节点,那么它们会自动组成一个elasticsearch集群,当然一个节点也可以组成一个elasticsearch集群

(4)Document&field:文档,es中的最小数据单元,一个document可以是一条客户数据,一条商品分类数据,一条订单数据,通常用JSON数据结构表示,每个index下的type中,都可以去存储多个document。一个document里面有多个field,每个field就是一个数据字段。

product document

{
  "product_id": "1",
  "product_name": "高露洁牙膏",
  "product_desc": "高效美白",
  "category_id": "2",
  "category_name": "日化用品"
}

(5)Index:索引,包含一堆有相似结构的文档数据,比如可以有一个客户索引,商品分类索引,订单索引,索引有一个名称。一个index包含很多document,一个index就代表了一类类似的或者相同的document。比如说建立一个product index,商品索引,里面可能就存放了所有的商品数据,所有的商品document。
(6)Type:类型,每个索引里都可以有一个或多个type,type是index中的一个逻辑数据分类,一个type下的document,都有相同的field,比如博客系统,有一个索引,可以定义用户数据type,博客数据type,评论数据type。

商品index,里面存放了所有的商品数据,商品document

但是商品分很多种类,每个种类的document的field可能不太一样,比如说电器商品,可能还包含一些诸如售后时间范围这样的特殊field;生鲜商品,还包含一些诸如生鲜保质期之类的特殊field

type,日化商品type,电器商品type,生鲜商品type

日化商品type:product_id,product_name,product_desc,category_id,category_name
电器商品type:product_id,product_name,product_desc,category_id,category_name,service_period
生鲜商品type:product_id,product_name,product_desc,category_id,category_name,eat_period

每一个type里面,都会包含一堆document


{
  "product_id": "2",
  "product_name": "长虹电视机",
  "product_desc": "4k高清",
  "category_id": "3",
  "category_name": "电器",
  "service_period": "1年"
}


{
  "product_id": "3",
  "product_name": "基围虾",
  "product_desc": "纯天然,冰岛产",
  "category_id": "4",
  "category_name": "生鲜",
  "eat_period": "7天"
}

(7)shard:单台机器无法存储大量数据,es可以将一个索引中的数据切分为多个shard,分布在多台服务器上存储。有了shard就可以横向扩展,存储更多数据,让搜索和分析等操作分布到多台服务器上去执行,提升吞吐量和性能。每个shard都是一个lucene index。
(8)replica:任何一个服务器随时可能故障或宕机,此时shard可能就会丢失,因此可以为每个shard创建多个replica副本。replica可以在shard故障时提供备用服务,保证数据不丢失,多个replica还可以提升搜索操作的吞吐量和性能。primary shard(建立索引时一次设置,不能修改,默认5个),replica shard(随时修改数量,默认1个),默认每个索引10个shard,5个primary shard,5个replica shard,最小的高可用配置,是2台服务器。

shard和replica

 

3、elasticsearch核心概念 vs 数据库核心概念 

Elasticsearch数据库
Document
Type
Index

 

### Elasticsearch 核心概念详解 #### 1. 索引 (Index) 索引是 Elasticsearch 中最高层次的数据组织单位,相当于传统关系型数据库中的“数据库”。然而,Elasticsearch 的索引具有动态模式、分布式存储以及针对搜索性能优化的特点。索引可以通过设置分片数 (`number_of_shards`) 和副本数 (`number_of_replicas`) 来控制其分布和冗余程度[^3]。 创建索引的示例如下: ```json PUT /test { "settings": { "number_of_shards": 3, "number_of_replicas": 1 } } ``` 查看索引的状态可以使用以下命令: ```json GET /test ``` #### 2. 文档 (Document) 文档是 Elasticsearch 中可被索引的最小数据单元,采用 JSON 格式表示。每个文档都有唯一的 ID(可以自动生成或手动指定),并包含多个字段。文档还附带一些元数据,如 `_index`、`_type`、`_id` 和 `_version` 等。 插入文档的示例如下: ```json POST /test/_doc/01 { "name": "智能手机", "price": 3999, "description": "旗舰级配置", "tags": ["电子", "数码"] } ``` 查询特定文档的内容可以使用以下命令: ```json GET /test/_doc/01 ``` #### 3. 映射 (Mapping) 映射定义了如何将文档的字段转换为倒排索引的形式。它类似于传统数据库中的表结构定义。通过映射,可以指定字段的类型(如 `text` 或 `keyword`)、是否启用分词器以及其他高级选项。如果未显式定义映射,则 Elasticsearch 会尝试根据输入数据自动推断字段类型[^3]。 #### 4. 分片与副本 (Shard & Replica) 为了支持大规模数据集和高可用性,Elasticsearch 将索引划分为多个分片(Primary Shard),并将这些分片分布在集群的不同节点上。此外,还可以为每个分片创建一个或多个副本(Replica Shard),以提高系统的容错能力和读取吞吐量[^1]。 #### 5. 倒排索引 (Inverted Index) Elasticsearch 使用倒排索引来加速全文检索操作。倒排索引是一种数据结构,其中键是单词或术语,而值是指向包含该单词的文档列表。这种设计使得即使面对海量数据,也能快速定位匹配的结果[^1]。 --- ### 总结 以上五个核心概念构成了 Elasticsearch 的技术基石:索引作为逻辑容器;文档是最基本的数据单元;映射决定了数据如何被处理;分片与副本实现了水平扩展和高可用性;最后,倒排索引则是其实现高性能搜索的关键所在。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值