java高级--Elasticsearch

一条要上岸的鱼

已于 2023-01-10 21:39:44 修改

阅读量1.5k

点赞数 2

分类专栏： java高级文章标签： elasticsearch 大数据

于 2022-12-17 18:14:07 首次发布

本文链接：https://blog.youkuaiyun.com/wk3510/article/details/128354914

版权

一、概述搜索引擎

1.1 什么是搜索引擎

                概念：用户输入想要的关键词，返回含有该关键词的所有信息。

        场景：

                1、互联网搜索：谷歌、百度、各种新闻首页

                 2、站内搜索（垂直搜索）：企业OA查询订单、人员、部门，电商网站内部搜索商品（淘宝、京东）场景。

1.2 数据库做搜索弊端

                数据量小，简单搜索，可以使用数据库。

                站内搜索的问题: 如果数据量很大。

存储的问题: 电商网站商品上亿条时，涉及到单表数据过大必须拆分表，数据库磁盘占用过大必须分库。

性能问题: 解决上面问题后，查询“笔记本电脑”等关键词时，上亿条数据的商品名字段逐行扫描，性能跟不上。

分词搜索问题: 如搜索“笔记本电脑”，只能搜索完全和关键词一样的数据，那么数据量小时，搜索“笔记电脑”，“电脑”数据要不要给用户。

                互联网搜索: ---数据量pb级别的数据【byte字节 kb m G t p】

                        存储引擎来解决上面数据库作为搜索的弊端。

1.3 常用的搜索引擎软件

Solr 和 Elasticsearch 理解为数据库-->搜索性能非常块而且存储量也比较大

1.4 Solr 和 Elasticsearch

1.当单纯的对已有数据进行搜索时，Solr更快

2.当实时建立索引时，Solr会产生io阻塞，查询性能较差，ElasticSearch具有明显的优势

3.随着数据量的增加，Solr的搜索效率会变得更低，而ElasticSearch却没有明显的变化

总结
1、es基本是开箱即用(解压就可以用!)【南京】 ,非常简单。Solr安装略微复杂一丢丢!
2、Solr 利用Zookeeper进行分布式管理,而Elasticsearch<mark>自身带有分布式协调管理功能</mark>。
3、Solr 支持更多格式的数据,比如JSON、XML、 CSV ,而Elasticsearch仅支持json文件格式。
4、Solr 官方提供的功能更多,而Elasticsearch本身更注重于核心功能，高级功能多有第三方插件提供，例如图形化界面需要kibana友好支撑
5.Solr 查询快,但更新索引时慢(即插入删除慢) ，用于电商等查询多的应用;

ES建立索引快(即查询慢) ，即实时性查询快，用于facebook新浪等搜索。
Solr是传统搜索应用的有力解决方案，但Elasticsearch更适用于新兴的实时搜索应用。
6、Solr比较成熟，有一个更大，更成熟的用户、开发和贡献者社区，而Elasticsearch相对开发维护者较少,更新太快,学习使用成本较高。

> 大多数企业使用的是ES.

1.5 Elasticsearch是什么

                The Elastic Stack, 包括 Elasticsearch【搜索，分析】、 Kibana【可视化】、 Beats 和 Logstash【数据的搜集】（也称为 ELK Stack）。能够安全可靠地获取任何来源、任何格式的数据，然后实时地对数据进行搜索、分析和可视化。

        Elaticsearch，简称为 ES， ES 是一个开源的高扩展的分布式全文搜索引擎，是整个 ElasticStack 技术栈的核心。

        它可以近乎实时的存储、检索数据；本身扩展性很好，可以扩展到上百台服务器，处理 PB 级别的数据。

        总结: 核心实时存储和实时数据分析实时数据检索而且可以处理数据量PB级别，以及扩展

1.6 哪些公司正在使用ES

国外：

维基百科，类似百度百科，“网络七层协议”的维基百科，全文检索，高亮，搜索推荐

Stack Overflow（国外的程序讨论论坛），相当于程序员的贴吧。遇到it问题去上面发帖，热心网友下面回帖解答。

GitHub（开源代码管理），搜索上千亿行代码。

电商网站，检索商品

日志数据分析，logstash采集日志，ES进行复杂的数据分析（ELK技术，elasticsearch+logstash+kibana）

商品价格监控网站，用户设定某商品的价格阈值，当低于该阈值的时候，发送通知消息给用户，比如说订阅《java编程思想》的监控，如果价格低于27块钱，就通知我，我就去买。

BI系统，商业智能（Business Intelligence）。大型连锁超市，分析全国网点传回的数据，分析各个商品在什么季节的销售量最好、利润最高。成本管理，店面租金、员工工资、负债等信息进行分析。从而部署下一个阶段的战略目标。

国内：

百度搜索，第一次查询，使用es。

OA、ERP系统站内搜索。

知网

1.7 安装ES

                保证JDK 1.8.0_73以上的版本。---安装在window                不要安装在中文目录下

                下载和解压缩Elasticsearch安装包，查看目录结构。

         Download Elasticsearch | Elasti

        下载地址：https://www.elastic.co/cn/downloads/

        历史版本下载：

最低0.47元/天解锁文章