搜索引擎概述

【大模型应用开发-ES】(一)ElasticSearch概述 Elasticsearch是一个开源的分布式全文搜索引擎,也是Elastic Stack(ELK)技术的核心组件。它能够高效地存储和检索PB级别的非结构化文本数据,提供近实时的搜索分析能力。相比传统关系型数据库在全文检索上的局限性(如索引维护困难、性能低下),Elasticsearch专为解决海量文本搜索需求设计,通过建立词条索引实现快速查询,适用于日志分析、网站搜索等场景。其分布式架构支持水平扩展至上百台服务器,满足企业对高性能、高相关性搜索的需求,特别适合非结构化数据处理和交互式查询应用。 阅读详情
一 搜索引擎的组成

   搜索引擎一般由搜索器、索引器、检索器和用户接口四个部分组成:
    1、搜索器:其功能是在互联网中漫游,发现和搜集信息
    2、索引器:其功能是理解搜索器所搜索到的信息,从中抽取出索引项,用于表示文档以及生成文档库的索引表
    3、检索器:其功能是根据用户的查询在索引库中快速检索文档,进行相关度评价,对将要输出的结果排序,并能按用户的查询需求合理反馈信息
    4、用户接口:其作用是接纳用户查询、显示查询结果、提供个性化查询项

   搜索引擎的工作原理,大致可以分为:
    1、搜集信息:搜索引擎的信息搜集基本都是自动的。搜索引擎利用称为网络蜘蛛的自动搜索机器人程序来连上每一个网页上的超连结。机器人程序根据网页链到其他中的超链接,就象日常生活中所说的“一传十,十传百……”一样,从少数几个网页开始,连到数据库上所有到其他网页的链接。理论上,若网页上有适当的超连结,机器人便可以遍历绝大部分网页。

    2、整理信息:搜索引擎整理信息的过程称为“建立索引”。搜索引擎不仅要保存搜集起来的信息,还要将它们按照一定的规则进行编排。这样,搜索引擎根本不用重新翻查它所有保存的信息而迅速找到所要的资料。想象一下,如果信息是不按任何规则地随意堆放在搜索引擎的数据库中,那么它每次找资料都得把整个资料库完全翻查一遍,如此一来再快的计算机系统也没有用。

   3、接受查询:用户向搜索引擎发出查询,搜索引擎接受查询并向用户返回资料。搜索引擎每时每刻都要接到来自大量用户的几乎是同时发出的查询,它按照每个用户的要求检查自己的索引,在极短时间内找到用户需要的资料,并返回给用户。目前,搜索引擎返回主要是以网页链接的形式提供的,这样通过这些链接,用户便能到达含有自己所需资料的网页。通常搜索引擎会在这些链接下提供一小段来自这些网页的摘要信息以帮助用户判断此网页是否含有自己需要的内容。

二 索引引擎的分类  

  整理信息及接受查询的过程,大量应用了文本信息检索技术,并根据网络超文本的特点,引入了更多的信息,搜索引擎的分类:
  1、全文索引
       全文搜索引擎是名副其实的搜索引擎,国外代表有Google,国内则有著名的百度搜索。它们从互联网提取各个网站的信息(以网页文字为主),建立起数据库,并能检索与用户查询条件相匹配的记录,按一定的排列顺序返回结果。
      根据搜索结果来源的不同,全文搜索引擎可分为两类,一类拥有自己的检索程序(Indexer),俗称“蜘蛛”(Spider)程序或“机器人”(Robot)程序,能自建网页数据库,搜索结果直接从自身的数据库中调用,上面提到的Google和百度就属于此类;另一类则是租用其他搜索引擎的数据库,并按自定的格式排列搜索结果,如Lycos搜索引擎。

  2、目录索引
      目录索引虽然有搜索功能,但严格意义上不能称为真正的搜索引擎,只是按目录分类的网站链接列表而已。用户完全可以按照分类目录找到所需要的信息,不依靠关键词(Keywords)进行查询。目录索引中最具代表性的莫过于大名鼎鼎的Yahoo、新浪分类目录搜索。

  3、元搜索引擎
      元搜索引擎(META Search Engine)接受用户查询请求后,同时在多个搜索引擎上搜索,并将结果返回给用户。著名的元搜索引擎有InfoSpace、Dogpile、Vivisimo等,中文元搜索引擎中具代表性的是搜星搜索引擎。在搜索结果排列方面,有的直接按来源排列搜索结果,如Dogpile;有的则按自定的规则将结果重新排列组合,如Vivisimo。

  4、其他非主流搜索引擎形式
    1)集合式搜索引擎:该搜索引擎类似元搜索引擎,区别在于它并非同时调用多个搜索引擎进行搜索,而是由用户从提供的若干搜索引擎中选择,如HotBot在2002年底推出的搜索引擎。
    2)门户搜索引擎:AOL Search、MSN Search等虽然提供搜索服务,但自身既没有分类目录也没有网页数据库,其搜索结果完全来自其他搜索引擎。
    3)免费链接列表(Free For All Links,简称FFA):一般只简单地滚动链接条目,少部分有简单的分类目录,不过规模要比Yahoo!等目录索引小很多。
search-engine:一个用 Java 编写的搜索引擎,带有网络爬虫和索引器 搜索引擎 一个从头开始用 Java 编写的搜索引擎,具有干净且响应Swift的 AJAX 界面。 视频演示(1000 个 NUS 网页索引): ://www.dropbox.com/s/ebzs99bgi3fnrf2/search_engine.mp4?dl 贡献者 亚历克斯·焦, 亚历山大·库奇尔, 拉斯穆斯·赫文格尔比 搜索引擎的机制 网络爬虫用于从给定的网站递归获取页面,索引器用于从页面中提取关键字并将它们插入到反向文件中。 索引器从文件中删除所有停用词。 然后使用波特算法将单词转换为词干。 它将词干插入到两个倒排文件中:从页面主体中提取的所有词干,连同支持向量空间模型所需的所有统计信息,插入到一个倒排文件中,并将从页面标题中提取的所有词干插入到另一个倒排文件中文件。 索引支持页面标题和页面正文中的短语搜索,例如“香港”。 来自的 JDBM 库用于创建和操作文件结构,用于 立即下载

相关推荐

PCIe信号眼图总是不开?手把手教你调CTLE和DFE参数(附实测波形对比)

本文详细解析了PCIe信号眼图调试中CTLE和DFE参数的优化方法,帮助硬件工程师解决眼图无法张开的问题。通过实际案例和步骤指导,介绍了如何调整CTLE直流增益和DFE抽头系数,提升接收端均衡器性能,确保信号完整性。

weixin_26805597的博客 215

搜索引擎的工作原理

与用户查询相匹配的文件的重要度(importance)或受欢迎程度(popularity)指的是相对重要性,通过引用(citation,也就是学术和商业文件中经常见到的一篇文章参考另外一篇文章)次数来衡量。如果你是网站主,了解了这些原理,就能更好地优化你的网站,让它在搜索结果中排名更靠前,从而吸引更多的访客。不过,这个书童可不简单,它有自己的一套工作流程,那就是我们今天要聊的——搜索引擎的工作原理。如果你对SEO感兴趣,或者想要提高自己网站的搜索排名,让我们一起探索搜索引擎的奥秘,获取更多的精准流量吧。

阿福赚美刀 1812

R语言,charls数据库清洗、基线特征描述、logistics回归、rcs模型、森林图

【代码】R语言,charls数据库清洗、基线特征描述、logistics回归、rcs模型、森林图。

2402_87751128的博客 2512

搜索引擎的妙用:掌握这些技巧,让你的搜索更高效!

使用来查找词汇的定义。例如,搜索将会返回关于 "anime"的定义和解释。define:量子计算这将返回关于“量子计算”定义和解释的页面。

m0_59328104的博客 9360

VS2022离线环境下的NuGet包管理:从本地源到依赖项全解析

本文详细解析了在VS2022离线环境下如何高效管理NuGet包,包括搭建本地NuGet源的两种方案(本地文件夹源和私有NuGet服务器)、获取离线包的三大渠道以及依赖项处理的实战技巧。通过自动化脚本和依赖树分析工具,帮助开发者解决离线环境中的依赖项黑洞问题,提升开发效率。

5f4d3s2a1q的博客 1060

STM32外围电路硬件解析

复位 :让MCU回到最开始的状态。并且从头开始,重新执行程序 我们什么时候需要复位? 1.烧录的时候 2.程序跑飞了的时候 3.上电复位(上电的时候需要复位) 复位方式: 1.上电复位: --- 一定要有 MCU的Reset是复位引脚,当这个引脚为低电平时,

qq_39577221的博客 1万+

第20章:DMP数据平台的搜索引擎与知识图谱

1.背景介绍 在当今的大数据时代,数据是成长、发展和竞争的关键因素。数据管理平台(DMP,Data Management Platform)是一种可以帮助企业更好地管理、分析和利用数据的工具。DMP的核心功能包括数据收集、存储、分析和可视化等。在这篇文章中,我们将深入探讨DMP数据平台的搜索引擎与知识图谱,揭示其背后的核心概念、算法原理和实际应用。 2.核心概念与联系 2.1 搜索引擎 搜...

AI天才研究院 1150

AI系统架构原理与代码实战案例讲解

人工智能的概念可以追溯到上世纪50年代,图灵测试的提出标志着人工智能作为一门学科的诞生。早期的研究主要集中在符号推理、专家系统等领域,取得了一些突破,例如机器定理证明、西洋跳棋程序等。上世纪80年代,随着专家系统的兴起,人工智能进入了一个黄金时期。专家系统通过模拟人类专家的知识和经验进行推理和决策,在医疗诊断、故障诊断等领域取得了成功应用。进入90年代,由于计算能力的限制和数据量的不足,人工智能的发展陷入低谷。近年来,随着深度学习技术的突破、大数据的兴起以及计算能力的提升,人工智能迎来了第三次发展浪潮,在图

AI天才研究院 1794

5 分钟让你了解什么是搜索引擎

搜索引擎是一种用于在互联网上查找和获取信息的工具或服务。它们通过建立和维护庞大的索引数据库,可以根据用户提供的关键词或查询条件,快速地从索引中检索相关的网页、文件、图片、视频或其他类型的内容。

Lorin 洛林的后端技术小站 2338

【软考高项论文】论信息系统项目管理的干系人绩效域

例如,在处理与电信运营商合作铺设光纤网络的问题时,考虑到其在通信设施建设和运维方面的专业性和重要性,我们将之定位为高权力高利益的干系人,给予了高度关注和优先沟通。项目全程,我们对干系人绩效域的执行效果进行了定期检查和评估,通过定量与定性的数据收集,确认了项目在干系人管理上的成效,具体表现为:建立了稳固的工作关系网络,使干系人普遍认可项目目标;鉴于本项目牵涉到政府各级部门、企事业单位、市民团体、技术研发伙伴等多种类型的干系人,且干系人的诉求和影响力各异,因此,有序且持续的干系人参与管理显得尤为关键。

Programming Talk 1681

华为OD机试 - 末世分配资源包 - 二分查找 + 贪心(Python/JS/C/C++ 新系统 100分)

本专栏收录于《华为OD机试真题(Python/JS/C/C++)》。刷的越多,抽中的概率越大,私信哪吒,备注华为OD,加入华为OD刷题交流群,每一题都有详细的答题思路、详细的代码注释、3个测试用例、为什么这道题采用XX算法、XX算法的适用场景,发现新题目,随时更新。末世时代,政府为各地方配资源,现有资源分配表 nums[n],要求按如下规则分配给 k 个营地:在最优平均分配情况下,得到最大团队所获得的资源数4,3,6,9,7 216最佳划分之一:[4,3,6] -> 13 [9,7] -> 16最大

学Java,找哪吒 224

计算机网络搜索引擎的分类和技术,2020年计算机三级考试网络技术备考要点:搜索引擎的原理和组成...

【导语】2020年计算机三级考试备考模式已启动,为了方便考生及时有效的备考,下面无忧考网为您精心整理了2020年计算机三级考试网络技术备考要点:搜索引擎的原理和组成,供大家的参考。如想获取更多计算机三级考试的模拟题及备考资料,请关注无忧考网的更新。2020年计算机三级考试网络技术备考要点:搜索引擎的原理和组成(1)搜索引擎的原理搜索引擎的原理起源于传统的信息全文检索理论,即计算机程序通过扫描一篇文...

weixin_34580441的博客 430

纳米尺度仿真软件:Quantum Espresso_(13).非线性光学性质计算

通过 Quantum Espresso,可以高效地计算材料的非线性光学性质,包括二阶和三阶非线性极化率。这些性质在许多现代技术中具有重要的应用价值。在准备输入文件时,需要详细描述系统的晶格结构和原子位置,选择合适的基组和赝势,并设置计算参数和微扰设置。通过优化计算参数和使用并行计算,可以提高计算效率和精度。最后,使用适当的工具进行结果分析和可视化,可以更好地理解材料的非线性光学行为。

kkchenjj的博客 1278

Elasticsearch(ES)概述

Elasticsearch 是一个分布式、高扩展、高实时的搜索与数据分析引擎。它能很方便的使大量数据具有搜索、分析和探索的能力。充分利用Elasticsearch的水平伸缩性,能使数据在生产环境变得更有价值。Elasticsearch是一款非常强大的开源搜索引擎,可以帮助我们从海量数据中快速找到需要的内容。Elasticsearch结合kibana、Logstash、Beats,也就是elastic stack(ELK)。被广泛应用在日志数据分析、实时监控等领域。Elasticsearch是。

m0_71484388的博客 1690

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

ElasticSearch学习之一【ES概述】

Elasticsearch是一款非常强大的开源分布式搜索引擎,并且结合 Kibana、Logstash、 Beats 丰富的生态组件,也被广泛运用在大数据实时分析场景中,其中包括日志分析、指标监控、信息安全等领域。 其高性能、容易使用、容易扩展的特性,被大量的互联网公司使用,其中包括小米、饿了么、滴滴出行、携程旅游,同时国内公有云企业阿里云与 Elastic 合作推出了云服务产品“阿里云Elast...

weixin_44761910的博客 367

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

ES(Elasticsearch)概述及基本使用方法

ES(Elasticsearch)概述及基本使用方法

weixin_68138130的博客 6621

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

Es搜索引擎概述和语句案例

个人学习ES总结,仅当参考

yhyh1233的博客 5691

ElasticSearch(ES)——概述/API

文章目录一、ElasticSearch基础1.1 简介1.2 使用场景1.3 ES与其他数据存储进行比较1.4 ES的特点1.5 Lucene、Nutch、ElasticSearch关系二、基本概念ES概念和MySQL关系对比三、安装ES3.1 解压、改名3.2 修改配置文件3.3 教学环境启动优化分发3.4 修改hadoop163、hadoop164的节点名3.5 单台启动测试,解决问题四、安装kibana4.1 解压、改名4.2 修改配置文件4.3 启动测试五

平平无奇小码农~ 1400

ElasticSearch全文搜索引擎 -Spring Boot操作ES(SpringData概述、Spring Data Elasticsearch、基本操作、ElasticSearch操作文档)

目录 1. Spring Data概述 2. Spring Data Elasticsearch 3. 实现基本操作 4. ElasticSearch操作文档 1 Spring Data概述 Spring Data是spring提供的一套连接各种第三方数据源的框架集,它支持连接很多第三方数据源,例如: 数据库 redis ElasticSearch MongoDB等 包括数据库在内,很多第三方数据都可以使用SpringData操作,非常方便。 2 Spring Data Elasticsearch 上

Lifelong learning 7213

es概述

weixin_40619833的博客 179

ElasticSearch概述及Window和Linux环境下安装

ES(Elasticsearch)是一个基于开放源代码的分布式搜索引擎,用于快速和灵活地搜索和分析大量数据。它是构建在Apache Lucene之上的,通过提供一个简单而强大的RESTful API来实现全文搜索、结构化搜索、分析和数据可视化的功能。

小孔靠得住的博客 2734

ElasticSearch概述+SpringBoot 集成ES

开源的、高扩展的、分布式全文检索引擎【站内搜索】

weixin_63541561的博客 633

ElasticSearch全文搜索引擎概述、使用Kibana和JAVA的简单操作

狭义的理解主要针对文本数据的搜索。数据可分为“结构化”数据(关系数据库表形式管理的数据),半结构化数据(XML文档、JSON文档),和非结构化数据(WORD、PDF),通常而言在结构化的数据中搜索性能是比较高的,全文搜索的目的就是把非结构化的数据变成有结构化的数据进行搜索,从而提高搜索效率。Lucene是apache下的一个开源的全文检索引擎工具包(一堆jar包)。它为软件开发人员提供一个简单易用的工具包(类库),以方便的在小型目标系统中实现全文检索的功能。

weixin_60359542的博客 1456

ElasticSearch概述与核心概念

ElasticSearch概述与核心概念说明:一、概述二、Elasticsearch重要概念三、Elasticsearch 系统架构 说明: 该文章内容整理自网络,如有侵权,请及时联系博主 一、概述 ES相关概述 Elasticsearch 是一个分布式、RESTful 风格的搜索和数据分析引擎,能够解决不断涌现出的各种用例。 作为 Elastic Stack 的核心,它集中存储您的数据,帮助您发现意料之中以及意料之外的情况。The Elastic Stack, 包括 Elasticsearch、Ki

聚焦大数据、AI、数据库三大核心领域,分享 Flink/Spark 实时计算、数仓架构设计、AI 模型落地、数据库性能调优的实战干货,附可直接运行的源码与方案。提供企业技术内训、项目咨询与定制化服务,助力开发者与企业高效搞定数智技术难题。 315

ElasticSearch全文搜索引擎 -Spring Boot操作ES(SpringData概述、Spring Data Elasticsearch、基本操作、

数据库redisMongoDB等包括数据库在内,很多第三方数据都可以使用SpringData操作,非常方便。

m0_67403240的博客 409

Elasticsearch搜索引擎原理概述(二)

Elasticsearch介绍 Elasticserch是一个开源且分布式、RESTful风格的搜索引擎和数据分析引擎,由Java编写,它的内部使用的是Apache Lucene做索引功能,Elasticsearch建立在一个全文的搜索引擎库“Apache Lucene”基础之上,作为Elastic Stack的核心,它集中存储你的数据。 Elasticsearch不仅仅只...

weixin_34240520的博客 294
上一篇: Maven 版本管理
下一篇: HTTP header 概述
张哲BJUT
博客等级 码龄15年 151粉丝 111原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值