全网最新,自学java之ElasticSearch7.x+实战

2024年最新WEB渗透安全之JS函数_js渗透(1) /20test();//10”)”);var pass = prompt(“请输出你的密码”);var flag = confirm(“今晚小树林儿见,可以吗?”)alert(“我想见你!”)a;typeof(a);//“bcd” 阅读详情

学习资源:b站up主狂神说,有兴趣的可以看下
学习ElasticSearch之前,建议大家可以百度一下他的诞生背景,会更加有利于你对这门技术的了解,这里就不展开描述了,直接入门学习

ElasticSearch安装

注意:因为ElasticSearch的底层是java开发的,需要jdk环境,而jdk环境最低要求是jdk1.8及以上的,所以需要确保这个环境是ok的

下载

直接官网下载即可,迅雷下载的速度还是挺快的

https://www.elastic.co/cn/

安装

解压即用

解压完毕后运行bin目录下的elasticsearch.bat文件,等待运行完毕后,在浏览器运行127.0.0.1:9200即可,出现以下界面说明安装成功
在这里插入图片描述

安装ES的图形化界面插件客户端——elasticsearch-head

注意:安装此插件需要node.js环境,没有的需要提前安装好,否则是安装不了elasticsearch-head的,具体怎么安装的在vue笔记中有说明,可以去看下

下载地址:https://github.com/mobz/elasticsearch-head

克隆到本地

git clone git://github.com/mobz/elasticsearch-head.git

然后按照文档的说明来安装即可

cd elasticsearch-head
npm install # 如果比较慢也可以使用cnpm
npm run start

最后运行开始在浏览器运行http://localhost:9100/

因为涉及到跨域问题,没法直接通信的,所以需要到elasticsearch的config目录下的elasticsearch.yml配置文件中配置一下

# 跨域配置
http.cors.enabled: true
http.cors.allow-origin: "*"

最后重启elasticsearch,发现elasticsearch-head会自动访问到
在这里插入图片描述

kibana

通过 Kibana,您可以对自己的 Elasticsearch 进行可视化,还可以在 Elastic Stack 中进行导航,这样您便可以进行各种操作了,从跟踪查询负载,到理解请求如何流经您的整个应用,都能轻松完成。

下载地址:https://www.elastic.co/cn/kibana

注意:kibana的版本要和elasticsearch的版本保持一致

下载完毕后解压即用,运行bin目录下的kibana.bat文件,运行完毕后在浏览器中运行http://localhost:5601,kibana会自动去访问9200,也就elasticsearch的端口号(当然elasticsearch这个时候必须启动着),然后就可以使用kibana了!
在这里插入图片描述
全英文看不懂?放心,kibana自带汉化功能,找到kibana的config目录下的kibana.yml文件,配置如下

i18n.locale: "zh-CN"

然后重启kibana就会变成中文版的了
在这里插入图片描述

ES核心概念

概述

在前面的学习中,我们已经掌握了es是什么,同时也把es的服务已经安装启动,那么es是如何去存储数据,数据结构是什么,又是如何实现搜索的呢?我们先来聊聊ElasticSearch的相关概念吧!

集群,节点,索引,类型,文档,分片,映射是什么?

elasticsearch是面向文档,关系行数据库 和 elasticsearch 客观的对比!
在这里插入图片描述
elasticsearch(集群)中可以包含多个索引(数据库),每个索引中可以包含多个类型(表),每个类型下又包含多 个文档(行),每个文档中又包含多个字段(列)。

物理设计:

elasticsearch 在后台把每个索引划分成多个分片,每分分片可以在集群中的不同服务器间迁移

逻辑设计:

一个索引类型中,包含多个文档,比如说文档1,文档2。 当我们索引一篇文档时,可以通过这样的一各顺序找到 它: 索引 ▷ 类型 ▷ 文档ID ,通过这个组合我们就能索引到某个具体的文档。 注意:ID不必是整数,实际上它是个字 符串。

文档

之前说elasticsearch是面向文档的,那么就意味着索引和搜索数据的最小单位是文档,elasticsearch中,文档有几个 重要属性 :

  • 自我包含,一篇文档同时包含字段和对应的值,也就是同时包含key:value!
  • 可以是层次型的,一个文档中包含自文档,复杂的逻辑实体就是这么来的!
  • 灵活的结构,文档不依赖预先定义的模式,我们知道关系型数据库中,要提前定义字段才能使用,在elasticsearch中,对于字段是非常灵活的,有时候,我们可以忽略该字段,或者动态的添加一个新的字段。

尽管我们可以随意的新增或者忽略某个字段,但是,每个字段的类型非常重要,比如一个年龄字段类型,可以是字符 串也可以是整形。因为elasticsearch会保存字段和类型之间的映射及其他的设置。这种映射具体到每个映射的每种类型,这也是为什么在elasticsearch中,类型有时候也称为映射类型。

类型

类型是文档的逻辑容器,就像关系型数据库一样,表格是行的容器。 类型中对于字段的定义称为映射,比如 name 映 射为字符串类型。 我们说文档是无模式的,它们不需要拥有映射中所定义的所有字段,比如新增一个字段,那么elasticsearch是怎么做的呢?elasticsearch会自动的将新字段加入映射,但是这
个字段的不确定它是什么类型,elasticsearch就开始猜,如果这个值是18,那么elasticsearch会认为它是整形。 但是elasticsearch也可能猜不对, 所以最安全的方式就是提前定义好所需要的映射,这点跟关系型数据库殊途同归了,先定义好字段,然后再使用,别 整什么幺蛾子。

索引

索引是映射类型的容器,elasticsearch中的索引是一个非常大的文档集合。索引存储了映射类型的字段和其他设置。 然后它们被存储到了各个分片上了。 我们来研究下分片是如何工作的。

物理设计:节点和分片 如何工作

一个集群至少有一个节点,而一个节点就是一个elasricsearch进程,节点可以有多个索引默认的,如果你创建索引,那么索引将会有个5个分片 ( primary shard ,又称主分片 ) 构成的,每一个主分片会有一个副本 ( replica shard ,又称复制分片 )
在这里插入图片描述

倒排索引

elasticsearch使用的是一种称为倒排索引的结构,采用Lucene倒排索作为底层。这种结构适用于快速的全文搜索, 一个索引由文档中所有不重复的列表构成,对于每一个词,都有一个包含它的文档列表。 例如,现在有两个文档, 每个文档包含如下内容:

Study every day, good good up to forever # 文档1包含的内容
To forever, study every day, good good up # 文档2包含的内容

为了创建倒排索引,我们首先要将每个文档拆分成独立的词(或称为词条或者tokens),然后创建一个包含所有不重 复的词条的排序列表,然后列出每个词条出现在哪个文档 :
在这里插入图片描述
现在,我们试图搜索 to forever,只需要查看包含每个词条的文档
在这里插入图片描述
两个文档都匹配,但是第一个文档比第二个匹配程度更高。如果没有别的条件,现在,这两个包含关键字的文档都将返回。

再来看一个示例,比如我们通过博客标签来搜索博客文章。那么倒排索引列表就是这样的一个结构 :
在这里插入图片描述
如果要搜索含有 python 标签的文章,那相对于查找所有原始数据而言,查找倒排索引后的数据将会快的多。只需要 查看标签这一栏,然后获取相关的文章ID即可。

elasticsearch的索引和Lucene的索引对比

在elasticsearch中, 索引 这个词被频繁使用,这就是术语的使用。 在elasticsearch中,索引被分为多个分片,每份 分片是一个Lucene的索引。所以一个elasticsearch索引是由多个Lucene索引组成的。别问为什么,谁让elasticsearch使用Lucene作为底层呢! 如无特指,说起索引都是指elasticsearch的索引。

接下来的一切操作都在kibana中Dev Tools下的Console里完成。基础操作!

ES基础操作

IK分词器插件

什么是ik分词器

分词:即把一段中文或者别的划分成一个个的关键字,我们在搜索时候会把自己的信息进行分词,会把数据库中或者索引库中的数据进行分词,然后进行一个匹配操作,默认的中文分词是将每个字看成一个词,比如 “我爱狂神” 会被分为"我",“爱”,“狂”,“神”,这显然是不符合要求的,所以我们需要安装中文分词
器ik来解决这个问题。

IK提供了两个分词算法:ik_smart 和 ik_max_word,其中 ik_smart 为最少切分,ik_max_word为最细粒度划分!一会我们测试!

安装ik分词器

下载地址:https://github.com/medcl/elasticsearch-analysis-ik/releases

注意:版本也要和es版本对应

下载完成后解压即用,注意是解压到elasticsearch安装目录下的plugins目录(插件目录)

然后重启所有服务即可

如果想要某个词不想被分词的话只需要稍微配置一下即可

步骤:

  • 进入config目录,新建my.dic文件,并输入狂神说
  • 打开IKAnalyzer.cfg.xml,将刚刚自定义的字典导入
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
	<comment>IK Analyzer 扩展配置</comment>
	<!--用户可以在这里配置自己的扩展字典 -->
	<entry key="ext_dict">my.dic</entry>
	 <!--用户可以在这里配置自己的扩展停止词字典-->
	<entry key="ext_stopwords"></entry>
	<!--用户可以在这里配置远程扩展字典 -->
	<!-- <entry key="remote_ext_dict">words_location</entry> -->
	<!--用户可以在这里配置远程扩展停止词字典-->
	<!-- <entry key="remote_ext_stopwords">words_location</entry> -->
</properties>

测试:略

Rest风格说明

一种软件架构风格,而不是标准,只是提供了一组设计原则和约束条件。它主要用于客户端和服务器交互类的软件。基于这个风格设计的软件可以更简洁,更有层次,更易于实现缓存等机制。

基本命令说明
在这里插入图片描述

代码测试

put命令

PUT /ryan/user/1
{
   
   
  "name": "牛排",
  "age": "18",
  "desc": "帅"
}
PUT /ryan/user/2
{
   
   
  "name": "羊排",
  "age": "11",
  "desc": "骚"
}
PUT /ryan/user/3
{
   
   
  "name": "小明",
  "age": "15",
  "desc": "丑"
}

在这里插入图片描述
get命令

# 简单的搜索(如果直接get ryan 是获取索引信息的)
GET /ryan/user/2
# 返回
{
   
   
  "_index" : "ryan",
  "_type" : "user",
  "_id" : "2",
  "_version" : 2,
  "_seq_no" : 2,
  "_primary_term" : 1,
  "found" : true,
  "_source" : {
   
   
    "name" : "羊排",
    "age" : "11",
    "desc" : "骚"
  }
}

post _update,推荐的更新操作

POST /ryan/user/1/_update
{
   
   
  "doc":{
   
   
    "desc": "高富帅"
  }
}

条件查询

简单的查询,我们上面已经不知不觉的使用熟悉了:

GET /ryan/user/2

我们来学习下条件查询 _search?q=

GET /ryan/user/_search?q=name:牛排

返回:

{
   
   
  "took" : 1,
  "timed_out" : false,
  "_shards" : {
   
   
    "total" : 1,
    "successful" : 1,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
   
   
    "total" : {
   
   
      "value" : 2,
      "relation" : "eq"
    },
    "max_score" : 1.89712,
    "hits" : [
      {
   
   
        "_index" : "ryan",
        "_type" : "user",
        "_id" : "1",
        "_score" : 1.89712,
        "_source" : {
   
   
          "name" : "牛排",
          "age" : "18",
          "desc" : "高富帅"
        }
      },
      {
   
   
        "_index" : "ryan",
        "_type" : "user",
        "_id" : "2",
        "_score" : 0.6931471,
        "_source" : {
   
   
          "name" : "羊排",
          "age" : "11",
          "desc" : "骚"
        }
      }
    ]
  }
}

发现上面的结果没有小明,然后我搜牛排,羊排也查出来了,是因为他也有一定的匹配度_score,匹配度越高,分值越高

构建查询

GET ryan/user/_search
{
   
   
  "query":{
   
   
    "match": {
   
   
      "name": "牛排"
    }
  }
}

返回结果:

{
   
   
  "took" : 4,
  "timed_out" : false,
  "_shards" : {
   
   
    "total" : 1,
    "successful" : 1,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
   
   
    "total" : {
   
   
      "value" : 2,
      "relation" : "eq"
    },
    "max_score" : 1.89712,
    "hits" : [
      {
   
   
        "_index" : "ryan",
        "_type" : "user",
        "_id" : "1",
        "_score" : 1.89712,
        "_source" : {
   
   
          "name" : "牛排",
          "age" : "18",
          "desc" : "高富帅"
        }
      },
      {
   
   
        "_index" : "ryan",
        "_type" : "user",
        "_id" : "2",
        "_score" : 0.6931471,
        "_source" : {
   
   
          "name" : "羊排",
          "age" : "11",
          "desc" : "骚"
        }
      }
    ]
  }
}

除此之外,还可以查询全部

GET ryan/user/_search
{
   
   
  "query":{
   
   
    "match_all": {
   
   }
  }
}

match_all的值为空,表示没有查询条件,就像select * from table_name一样。

返回结果:全部查询出来了!

如果有个需求,我们仅是需要查看 name 1个属性,其他的不要怎么办?

GET ryan/user/_search
{
   
   
  "query":{
   
   
    "match_all": {
   
   }
  },
  "_source": ["name"]
}

如上例所示,在查询中,通过 _source 来控制仅返回 name 和 age 属性。

{
   
   
  "took" : 2,
  "timed_out" : false,
  "_shards" : {
   
   
    "total" : 1,
    "successful" : 1,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
   
   
    "total" : {
   
   
      "value" : 3,
      "relation" : "eq"
    },
    "max_score" : 1.0,
    "hits" : [
      {
   
   
        "_index" : "ryan",
        "_type" : "user",
        "_id" : "1",
        "_score" : 1.0,
        "_source" : {
   
   
          "name" : "牛排"
        }
      },
      {
   
   
        "_index" : "ryan",
        "_type" : "user",
        "_id" : "2",
        "_score" : 1.0,
        "_source" : {
   
   
          "name" : "羊排"
        }
      },
      {
   
   
        "_index" : "ryan",
        "_type" : "user",
        "_id" : "3",
        "_score" : 1.0,
        "_source" : {
   
   
          "name" : "小明"
        }
      }
    ]
  }
}

一般的,我们推荐使用构建查询,以后在与程序交互时的查询等也是使用构建查询方式处理查询条件,因为该方 式可以构建更加复杂的查询条件,也更加一目了然。

排序查询

我们说到排序 有人就会想到:正序 或 倒序 那么我们先来倒序:

GET ryan/user/_search
{
   
   
  "query":{
   
   
    "match_all": {
   
   }
  },
  "sort": [
    {
   
   
      "age": {
   
   
        "order": "desc"
      }
    }
  ]
}

正序的话是asc

注意:在排序的过程中,只能使用可排序的属性进行排序。那么可以排序的属性有哪些呢?

  • 数字
  • 日期
  • ID

其他的都不行

分页查询

GET ryan/user/_search
{
   
   
  "query":{
   
   
    "match_all": {
   
   }
  },
  "from": 0, # 从第n条开始
  "size": 1 # 返回几条数据
}

就返回了一条数据 是从第0条开始的返回一条数据 。可以再测试!

布尔查询

先增加一条数据

PUT ryan/user/4
{
   
   
  "name": "牛排",
  "age": 3,
  "desc": "我是3岁的牛排"
}

must(相当于and)

我要查询所有name属性为牛排的数据,且年龄为3岁

GET ryan/user/_search
{
   
   
  "query": {
   
   
    "bool": {
   
   
      "must": [
        {
   
   
          "match": {
   
   
            "name": "牛排"
          }
        },
    
PageLM:让PDF教材变成交互式数字教具的开源工具 PDF文档作为教育、法律、医疗等领域最普遍的知识载体,长期面临‘只读不可交互’的核心瓶颈。其本质是静态内容与动态学习需求之间的结构性矛盾。PageLM 通过分层解耦架构,将OCR识别、知识结构化、教学法编排与Web组件渲染分离,实现从原始PDF到可点击、可拖拽、可调试的智能页面转化。它不依赖端到端大模型黑盒推理,而是以教育本体论驱动结构化标注,并用YAML定义交互逻辑,显著提升知识复用效率与教师参与度。典型应用场景包括K12互动课件生成、企业SOP沙盘演练及法律条文情景推演——真正让专业文档具备‘操作系统’ 阅读详情

相关推荐

Java连接Elasticsearch(v7.17.3)

ElasticSearch是一个基于Lucene的搜索服务器,它提供了一个分布式多用户能力的全文搜索引擎,基于RESTful web接口。ElasticSearch是用Java开发的,因此Java API是与ElasticSearch交互的主要方式。本文将介绍如何使用Java API连接ElasticSearch7.17.3。

静坐听雨 1156

【信息科学与工程学】【数据中心】第二十三篇 DDC网络-满足大规模训练、推理、存储区网络(Roce2组网)-第四篇 跨地域互联(管理区和推理区)

智算中心互联

weixin_49199313的博客 785

使用OpenTK展示3D点云图像(C#)

图中存在一个空的点,可通过阈值分割过滤掉,然后如何保证某个点必然存在后面两个和它构成三角形的点,用一个2x2的结构元腐蚀阈值分割出的区域,得到剩下所有的点必然每个点可以构成三角形,这种得到三角形的算法效率会非常高。然后还有光照,无光照和有光照效果差异很大,处理光照核心在于得到每个点的法向量,用上面的三角形的两条边构成的向量叉乘,及得到这个点的法向量,输入给着色器处理得到光照的渲染效果,如下面两张图对比。我们需要把点连成面,有很多算法可以实现,但我拿到的图为一张tif格式16位的深度图,如下图。

海盗Isaac 2283

华为防火墙USG6600全流量日志配置指南:从流量监控到NAT日志的完整方案

本文详细介绍了华为USG6600防火墙全流量日志配置方案,涵盖流量监控、NAT日志及安全事件溯源等核心功能。通过精细化配置和性能优化技巧,帮助企业构建高效、合规的日志体系,提升网络安全运维效率。文章特别强调了日志采样与字段过滤的实用方法,适用于高流量环境下的资源优化。

gin88的博客 350

java modbus通讯协议_Modbus通 讯 协 议

电磁流量计Modbus通 讯 协 议(版本号:9000-K V9.1.1)2020年01月01日通讯协议针对KFD电磁流量计工业应用设计,版本:9000-K V9.1.1,该版本主要用于实时数据采集、流量测量、流量累计控制及部分参数的修改。一、主机系统通讯部件要求1.国际标准RS-485通讯接口部件,不小于11Bytes 的通信缓冲区(FIFO),支持1200、2400、4800、96...

weixin_39956612的博客 1012

EV1527、PT2262傻傻分不清?一文讲透常见315/433MHz遥控编码协议区别与选型

本文深度对比了EV1527、PT2262和SC5262三种常见的315/433MHz遥控编码协议,详细解析了它们的技术特点、成本效益和适用场景。EV1527作为低成本方案的首选,特别适合智能家居和简易安防设备;PT2262在稳定性和兼容性上表现优异;而SC5262则在安全性方面具有显著优势。文章还提供了实用的选型框架和工程建议,帮助开发者在不同应用场景中做出最优决策。

weixin_33640562的博客 352

LaMAR数据集下载和使用流程

LaMAR数据集

qq_51745206的博客 974

200_matlab处理NCEP数据并画全球彩色的风场图

200_matlab处理NCEP数据并画全球彩色的风场图。

miaobo0的博客 1240

C#创建COM组件,QT调用COM组件简单测试(VS2008+QT4.6.4)

一. C#创建组件: 1. VS2008新建一个项目,选择Visual C#, Class library 修改Properties下面的AssemblyInfo.cs文件,ComVisible属性设置为True,即:[assembly: ComVisible(true)] 2. 右击项目,选择“属性”, 选择“生成”选项卡,把“为COM互操作注册”勾选上 选择“签名”选项卡,把“

3518

云端全自动AI漫剧生成工作流:从模型选型到完整实现

本文提出了一套云端全自动AI漫剧生成工作流解决方案,旨在解决传统漫剧制作效率低下的问题。该系统采用"编排引擎+模型矩阵"架构,通过集成大语言模型、图像生成、视频合成等技术,实现从剧本输入到成片输出的全流程自动化。 核心内容包括: 模型选型方案:剧本解析采用DeepSeek-V3/GPT-4o,图像生成使用DALL-E 3,视频合成选用Stable Video Diffusion,语音合成采用MiniMax TTS 系统架构设计:基于Celery分布式任务队列的编排层,分解任务至各功能模块

huanghm88的专栏 645

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

上一篇: 谷歌浏览器现实json格式数据,一键解决
下一篇: 解决github下载过慢的办法,码云是万能的
codebeef
博客等级 码龄7年 8粉丝 20原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值