Elastic 中国社区官方博客

关于 Elastic Stack 及相关的任何技术

  • 博客(2436)
  • 资源 (9)
  • 收藏
  • 关注

原创 Elastic 线下 Meetup 将于 2025 年 9 月 6 号下午在成都举行

2025年9月6日,ElasticMeetup成都站将在腾讯成都大厦举办。活动由Elastic、腾讯和新智锦绣联合主办,聚焦AI驱动的搜索技术发展。主要内容包括:Elastic社区布道师刘晓国讲解向量搜索和RAG技术;腾讯云专家张小伟介绍ESServerless日志分析方案;Elastic架构师李捷分享AgenticRAG构建经验。活动包含主题演讲、茶歇交流及抽奖环节,需提前实名报名。

2025-07-31 11:02:20 1487

原创 Elastic:如何成为一名 Elastic 认证工程师,Elastic 认证分析师及 Elastic 认证可观测性工程师

Elasticsearch 无疑是是目前世界上最为流行的大数据搜索引擎。根据 DB - Engines 的统计,Elasticsearch 雄踞排行榜第一名,并且市场还在不断地扩大:能够成为一名 Elastic 认证工程师也是很多开发者的梦想。这个代表了 Elastic 的最高认证,在业界也得到了很高的认知度。得到认证的工程师,必须除了具有丰富的 Elastic Stack 知识,而且必须有丰富的操作及有效的解决问题的能力。拥有这个认证证书,也代表了个人及公司的荣誉。针对个人的好处是,你可以..

2020-10-28 11:54:13 25762 19

原创 Elastic:开发者上手指南

你们好,我是Elastic的刘晓国。如果大家想开始学习Elastic的话,那么这里将是你理想的学习园地。在我的博客几乎涵盖了你想学习的许多方面。在这里,我来讲述一下作为一个菜鸟该如何阅读我的这些博客文章。我们可以按照如下的步骤来学习:1)Elasticsearch简介:对Elasticsearch做了一个简单的介绍2)Elasticsearch中的一些重要概念:cluster,n..........................................................

2020-02-25 20:01:55 164978 98

原创 Elastic:培训视频 - ​在生产环境中配置 Fleet Server 和 Elastic Agent 之间的安全

在这篇文章中,我将会把我写的有些内容录制成视频,供大家参考。希望对大家有所帮助。优酷的视频频道地址在这里。Elastic 简介及Elastic Stack 安装:优酷,腾讯 Elastic Stack docker 部署:优酷,腾讯 Elasticsearch中的一些重要概念(Cluster/Shards/Replica/Document/Type/Index):优酷,腾讯 开始使用El...............

2020-01-06 15:31:54 17678 12

原创 Elasticsearch 简介

Elasticsearch是一个非常强大的搜索引擎。它目前被广泛地使用于各个IT公司。Elasticsearch是由Elastic公司创建并开源维护的。它的开源代码位于https://github.com/elastic/elasticsearch。同时,Elastic公司也拥有Logstash及Kibana开源项目。这个三个开源项目组合在一起,就形成了 ELK软件栈。他们三个共同形成了一个强大的...

2019-08-08 16:04:31 174544 32

原创 Elasticsearch:使用 Gradio 来创建一个简单的 RAG 应用界面

Gradio 是一个快速构建机器学习模型网页界面的工具。本文展示了如何使用 Gradio 为基于 Elasticsearch 和 DeepSeekR1 的 RAG 问答系统创建交互式界面。代码示例演示了如何设置 Elasticsearch 连接、处理语义搜索查询,并通过 OpenAI 接口生成回答。通过简单的 Gradio 界面,用户可以输入关于《爱丽丝梦游仙境》的问题,系统会从书中检索相关段落并生成回答。运行脚本后,可在本地浏览器访问问答界面,支持中英文提问。

2025-08-15 16:57:11 288

原创 Elasticsearch 分片和副本:实用指南

作者:来自 Elastic掌握 Elasticsearch 分片和副本的概念并学习如何优化它们。节点、集群和分片 - Elasticsearch 101 课程想获得 Elastic 认证吗?了解下一次的时间!Elasticsearch 拥有大量新功能,可帮助你为自己的用例构建最佳搜索解决方案。深入查看我们的以了解更多信息,开始,或立即在上尝试 Elastic。Elasticsearch 通过在 Lucene 之上构建分布式系统来增强 Lucene 的功能,从而解决可扩展性和容错问题。

2025-08-15 09:00:23 672

原创 Elasticsearch:如何使用 Qwen3 来做向量搜索

本文介绍了如何使用Qwen3嵌入模型结合Elasticsearch实现语义搜索。首先需要安装Elasticsearch和Kibana,然后通过Python脚本将文本数据(如阿里巴巴和百度的介绍)使用Qwen3模型向量化后存入Elasticsearch。索引包含4096维的向量字段,采用余弦相似度进行搜索。通过示例展示了如何查询"阿里巴巴法定代表人"、"中国搜索引擎公司"等关键词,系统能准确返回相关度最高的文本内容。该方法利用大语言模型的语义理解能力,实现了基于内容的智

2025-08-14 19:58:36 323

原创 失败存储:查看未成功的内容

Elastic推出全新"失败存储"功能,可捕获并索引处理失败的日志数据,解决数据丢失难追踪的问题。该功能通过将失败文档存入专用索引,提供数据摄取问题的可见性,支持调试模式变化和监控数据质量。用户可为单个或批量数据流启用该功能,并通过ES|QL和Kibana工具分析失败原因。失败数据默认保留30天,支持数据生命周期管理。该功能从Elastic 9.1和8.19版本开始提供,将逐步在日志索引上默认启用。

2025-08-14 09:28:48 936

原创 Elastic 获得 2025 年 Google Cloud DORA “以 AI 构建未来架构” 奖

Elastic荣获2025年Google Cloud DORA"以AI构建未来架构"奖,表彰其运用DORA原则在软件交付和运营性能上的显著提升。通过整合Google Cloud的AI工具,Elastic在部署频率、变更交付周期、变更失败率和平均恢复时间等关键指标上取得突破,同时实现20%运营成本降低和25%碳足迹减少。作为首家直接集成到Vertex AI的ISV,Elastic将AI深度融入产品开发与内部运营,推动生成式AI在搜索、安全和可观测性领域的创新应用。这一合作成果展示了云原生技

2025-08-14 09:06:30 788

原创 如何使用 Ollama 在本地设置并运行 Qwen3

本文介绍了如何在本地使用Ollama安装和运行Qwen3大语言模型,并构建基于Gradio的交互式应用。Qwen3是阿里巴巴开源的先进模型,支持100多种语言,在推理、编码和翻译任务中表现优异。教程详细讲解了通过Ollama命令行安装Qwen3、不同参数规模的模型选择、以及三种使用方式:终端交互、API调用和Python集成。重点展示了如何用Gradio创建具有两种功能的Web应用:可切换思维模式的推理界面和多语言翻译工具。本地运行Qwen3具有隐私保护、低延迟、成本低等优势,适合开发智能应用原型。

2025-08-13 21:31:48 1381

原创 使用 Elasticsearch 向量数据库和 Dell AI Data Platform 加速创造力

Elastic与Dell、NVIDIA合作推出AI数据平台,整合Elasticsearch向量数据库技术,为创意产业提供高效的非结构化数据处理方案。该平台支持PB级数据存储、混合搜索和AI工作流,实现跨团队协作和智能资产发现,显著提升媒体、游戏等行业的创意生产效率。通过GPU加速和先进的向量搜索技术,平台能快速处理视频、脚本等多样化内容,推动AI驱动的编辑工具和个性化体验发展。

2025-08-13 08:16:36 667

原创 超越相似名称:Elasticsearch semantic text 如何在简洁、高效、集成方面超越 OpenSearch semantic 字段

Elasticsearch 8.15引入的semantic_text与OpenSearch 3.1的semantic字段对比显示,前者在简洁性、效率和集成度上更具优势。Elasticsearch提供开箱即用的默认模型、更灵活的查询类型、高效量化存储和可配置分块功能,同时支持与ES|QL的无缝集成。而OpenSearch需要额外配置模型,缺乏量化选项且查询灵活性受限。在RAG应用场景中,Elasticsearch的语义高亮能复用索引嵌入,显著提升效率。实际测试表明,Elasticsearch在混合搜索等复杂场

2025-08-13 07:59:02 1323

原创 Kibana:如何使用阿里钉钉来接收通知

本文介绍了如何在Kibana中配置钉钉机器人接收告警通知。首先需要在钉钉工作群创建自定义机器人,设置关键词"ES"作为触发条件并获取Webhook地址。然后在Kibana中创建钉钉连接器,填写Webhook地址进行测试验证。通过实际案例演示了当1分钟内收到3个文档时触发告警的规则配置,并测试确认告警信息能成功发送至钉钉。文章指出信息必须包含关键词"ES"才能被接收,与之前的企业微信方案类似,但重点说明了钉钉特有的配置细节。

2025-08-12 17:30:11 1057

原创 Kibana:如何使用企业微信来接收通知

摘要:本文详细介绍了如何配置Kibana通过企业微信接收告警通知。主要内容包括:1)安装Elasticsearch和Kibana 8.x/9.x版本;2)生成加密密钥并配置Kibana.yml;3)启用白金试用功能以使用Webhook;4)创建企业微信账号并获取Webhook地址;5)在Kibana中配置Webhook连接器;6)创建索引和告警规则;7)测试告警通知功能。通过逐步操作,最终实现了当监控指标超过阈值时自动发送告警到企业微信群的功能。

2025-08-12 10:33:12 782

原创 哈希、存储、连接:使用 ES|QL LOOKUP JOIN 的日志去重现代解决方案

本文提出了一种创新方法,通过Elastic Stack和ES|QL查询引擎优化PowerShell日志存储,解决安全可见性与存储成本的矛盾。核心方案是:1)使用哈希值唯一标识脚本内容;2)仅存储一次完整脚本到查找索引;3)查询时通过LOOKUPJOIN重建完整上下文。实验显示存储量减少99.99%,同时保持全量分析能力。该方案包含Logstash事件克隆、ingest pipeline处理和ES|QL查询重建三个关键技术环节,既降低了存储成本,又不影响安全检测和取证分析能力。这种"哈希-存储-连接

2025-08-11 10:27:10 946

原创 Elasticsearch:在向量搜索中使用 Direct IO

摘要:Elasticsearch 9.0引入的kNN向量重新排序功能虽能提升召回率,但会增加延迟。本文分析了延迟原因:重新排序需要随机访问原始向量数据,当数据量超过RAM容量时,操作系统页面缓存会频繁交换,导致性能下降。解决方案是使用directIO绕过页面缓存,在内存不足时可显著降低延迟(对数级改善),但内存充足时会影响性能。Elasticsearch 9.1开始支持为bbq_hnsw索引启用directIO,建议用户在遇到高延迟时通过JVM参数尝试该功能。

2025-08-08 23:21:13 1517

原创 无服务器日志分析由 Elasticsearch 提供支持,推出新的低价层

摘要:Elastic推出全新无服务器日志分析服务Observability Logs Essentials,为SRE和开发者提供经济高效的云端日志管理方案。该服务基于Elasticsearch强大搜索能力,支持快速日志检索、ES|QL查询分析和可视化仪表板,无需管理基础设施即可实现自动扩展。特点包括:按用量计费的成本透明度、内置高可用性、简化运维流程,帮助团队快速定位系统问题根源。用户可无缝升级至功能更完整的Observability Complete版本。

2025-08-08 07:34:16 803

原创 依靠 AI、ML 和可观测性来管理你不断增长的基础设施

【摘要】现代基础设施的复杂性和规模扩张对可观测性工具提出新挑战。文章指出四大关键技术:1)利用分离存储架构降低高保真数据成本;2)OpenTelemetry标准化实现全栈监测;3)统一元数据增强信号关联;4)AI/ML实现智能告警和根因分析。这些技术共同解决数据爆炸、厂商锁定和MTTR增长等问题,使运维效率与基础设施规模解耦。未来可观测性竞争将聚焦存储创新和AI驱动的动态工作流,而非传统监控功能。企业需采用这些技术应对云原生时代的运维挑战。

2025-08-07 07:40:37 758

原创 如何显示一个 Elasticsearch 索引的字段

本文介绍了在Elasticsearch中显示索引字段的多种方法。主要内容包括:1)使用_mapping API获取字段定义信息;2)通过_search API的_source和fields参数显示字段值;3)处理子字段、合成_source和运行时字段等特殊场景。文章详细比较了各种方法的优缺点,如_source提供原始文档但性能较低,fields参数可直接从存储字段获取值提升效率。同时介绍了docvalue_fields、stored_fields等高级用法,以及如何通过合成_source节省存储空间。这些技

2025-08-07 07:08:30 1185

原创 利用 Elastic API 实现自定义 AI 驱动的 SOAR

【摘要】Elastic安全团队提出利用其开放的API架构构建AI驱动的安全编排自动化与响应(SOAR)方案。该方案通过Python客户端实时监控关键警报,将警报JSON发送至Elastic AI安全助手生成调查与修复建议,并自动推送至Slack频道指派分析师处理。系统支持分析师一键批准执行WinRM命令,全程操作可审计并自动生成安全案例。Elastic的API优先设计使其能灵活集成AI能力和协作工具,显著提升SOC团队对关键警报的响应效率和质量。

2025-08-06 09:13:53 937

原创 使用 OpenTelemetry 和 Elastic 对 Web 前端进行监测和监控

本文介绍了使用OpenTelemetry进行Web前端监测的方法与实践。文章对比了前端与后端监测的区别,指出前端监测常被忽视的现状,并通过一个基于Svelte和JavaScript的Web应用示例,展示了如何使用OpenTelemetry实现浏览器端监测。主要内容包括:前端监测的现状与挑战、OpenTelemetry浏览器监测的核心组件(追踪、日志、指标)、前后端信号关联的实现方法,以及如何捕获文档加载、用户交互和Core Web Vitals等关键指标。文章特别强调了上下文传播在构建完整应用追踪链路中的重

2025-08-06 08:00:00 653

原创 什么是 Model Context Protocol ( MCP )?

MCP(ModelContextProtocol)是为解决LLM与外部系统集成问题而设计的标准化协议。它采用客户端-服务器架构,通过统一接口连接AI应用与数据源/工具,包含三大核心功能:资源(数据访问)、工具(执行操作)和提示(交互模板)。MCP解决了AI应用与外部系统直接集成导致的M×N扩展问题,将维护责任转移至服务提供方,显著降低开发复杂度。该协议支持JSON-RPC通信,强调安全控制,并兼容现有AI框架(如LangChain),使开发者能专注于核心逻辑而非底层集成。官方提供多语言SDK和规范文档,支持

2025-08-06 08:00:00 2715

原创 升级 Elasticsearch 到新的 AWS Java SDK

Elasticsearch即将从AWS Java SDK v1迁移至v2,原因是AWS将于2025年12月31日停止对旧版SDK的支持。迁移工作涉及重构测试代码以适应新版SDK的行为差异,主要影响区域自动检测、IMDS协议支持和端点URL格式等方面。虽然Elasticsearch 8.19.x及9.1.0+版本已内置兼容逻辑,但用户仍需注意配置调整,如明确指定S3区域、使用IMDSv2协议等。建议用户在升级前充分测试,确保平滑过渡。此次迁移旨在避免依赖已停止维护的组件可能带来的安全风险。

2025-08-05 09:46:16 800 1

原创 在后 Enterprise Search 时代使用你的 App Search 数据

本文介绍了如何在Elastic Stack 9.0版本弃用Enterprise Search后继续使用AppSearch数据的方法。虽然Enterprise Search不再更新,但用户仍可通过查询特定索引(如.ent-search-actastic-engines_v26)获取引擎数据,检索文档、同义词集和策划内容。文章详细说明了如何通过Elasticsearch API访问这些数据,并建议使用Elastic Search UI创建类似AppSearch的用户体验。对于新安装9.0+版本的用户,Enter

2025-08-05 09:14:20 1046

原创 Elastic 9.1/8.19:默认启用 BBQ,ES|QL 支持跨集群搜索(CCS)正式版,JOINS 正式版,集成 Azure AI Foundry

Elastic宣布正式发布9.1和8.19版本,并延长8.x系列支持。新版本带来多项创新功能,包括更快的二进制量化(BBQ)、ACORN搜索算法优化、Azure AI Foundry集成、攻击发现自动化等。Elastic Cloud Serverless现已在Microsoft Azure上线,提供更便捷的解决方案部署方式。核心产品Elasticsearch、Observability和Security均获得重要更新,涉及搜索性能提升、AI集成、安全分析等方面。所有新功能已通过Elastic Cloud提供

2025-08-03 11:52:41 1143

原创 用于 UBI 的 Elasticsearch 插件:从搜索查询中分析用户行为

摘要:本文介绍了如何使用Elasticsearch插件实现用户行为洞察(UBI)标准,以捕获和分析搜索应用中的用户行为数据。UBI通过标准化schema记录搜索查询和用户交互事件,帮助优化搜索体验。文章详细说明了UBI插件的安装配置步骤,包括在Elastic Cloud上部署、创建测试索引,以及如何捕获查询和点击事件。通过示例展示了如何存储查询元数据并将用户行为事件与原始查询关联,最后演示了使用ES|QL分析热门查询的基本方法。这些数据可用于优化搜索结果相关性、训练学习排序模型等应用场景。

2025-08-03 11:25:13 1204

原创 使用 Elasticsearch 和 AI 构建智能重复项检测

摘要:本文探讨了如何利用Elasticsearch结合AI技术构建智能重复检测系统,解决金融和保险领域的申请重复问题。系统通过Elasticsearch的音近搜索功能处理姓名拼写差异,使用AI模型生成地址变体,并采用本地LLM进行最终去重判断。文章详细介绍了从环境搭建、索引配置到实际应用的完整流程,包括处理姓名变异、地址差异等复杂场景。该方案不仅能有效识别"Katherine Johnson"与"Kate Johnson"等变体名称的重复申请,还可应用于政府服务、医疗

2025-07-31 10:57:24 1159

原创 统一你的数据:使用 ES|QL 的跨集群搜索现在已正式发布!

Elasticsearch宣布正式发布基于ES|QL的跨集群搜索(CCS)企业级功能。该功能允许用户通过单一查询分析分布在多个集群中的数据,支持地理分布、环境隔离等多种部署场景。新版本采用分布式查询处理架构,具备弹性故障处理机制,支持三种ENRICH数据增强模式,并优化了大规模集群下的性能表现。系统会记录详细的查询监控数据,未来还将扩展LOOKUP JOIN等功能。企业用户现可升级至最新版体验这一统一数据分析解决方案。

2025-07-31 07:00:31 990

原创 在 Elasticsearch 8.19 和 9.1 中引入更强大、更具弹性和可观测性的 ES|QL

Elasticsearch 8.19和9.1版本发布,重点增强了ES|QL查询语言功能。主要更新包括:生产级LOOKUP JOIN功能正式可用,支持混合数值类型join和索引别名;查询引擎默认具备更强弹性,支持部分结果返回和自动重试;性能提升显著,优化了30多项操作;跨集群搜索(CCS)正式发布;新增可观测性功能如查询日志和实时监控API。此外还引入了LLM completion支持、新聚合函数等特性,帮助用户构建更强大的搜索解决方案。

2025-07-30 16:02:19 1379 1

原创 Elasticsearch 8.19.0 和 9.1.0 中 LogsDB 和 TSDS 的性能与存储改进

Elasticsearch 8.19.0和9.1.0版本针对TSDS和LogsDB进行了多项性能优化。主要改进包括:通过移除恢复源数据将磁盘I/O降低50%;优化doc_values段合并使性能提升40%;改进数组处理减少重复存储;用跳表替代BKD树使_seq_no字段存储减少50%。这些改进使LogsDB存储效率提升最高达4倍,索引吞吐量损失控制在10%以内。升级后,用户能以更低成本高效管理海量日志和指标数据。

2025-07-30 09:46:07 1209

原创 Elasticsearch 现在默认启用 BBQ,并通过 ACORN 实现过滤向量搜索

Elasticsearch 9.1推出两项向量搜索重大改进:新算法ACORN显著提升过滤向量搜索速度(典型场景5倍加速);BBQ量化方法在降低32倍内存占用的同时,基准测试显示其排序质量优于传统float32搜索。这些创新让开发者能在不牺牲质量的前提下,构建更快速、更低成本的AI搜索应用。用户升级至新版本即可自动获得这些优化功能。

2025-07-30 09:12:28 1418

原创 人工智能是网络安全最大的威胁

摘要:AI正成为网络安全领域的关键力量,既是最大威胁也是最强防御。AI驱动的解决方案能提供实时威胁洞察,实现从被动防御到主动"反脆弱"的转变。生成式AI通过分析海量安全数据,帮助分析师快速处理事件并优化响应策略。自适应安全理念结合AI技术,使系统能动态应对变化威胁环境。Elastic开发的AI助手等工具正在重塑安全运营模式,将重复工作自动化,让专业人员专注于战略决策。虽然AI不会取代网络安全岗位,但已成为现代安全体系的基础要素,实现人机协同防御。

2025-07-29 16:50:33 726

原创 Elastic 劳动力的生成式 AI:ElasticGPT 的幕后解析

Elastic公司推出内部AI助手ElasticGPT,基于RAG框架构建,整合Elastic技术栈实现安全高效的智能问答。该系统核心是私有RAG模型SmartSource,通过Elasticsearch进行向量检索,结合OpenAI的GPT-4o模型生成响应。架构采用ElasticCloud部署,包含前端EUI框架、后端Elasticsearch存储和LangChain编排层,所有交互均受严格安全管控并记录分析。该平台既验证了Elastic的AI能力,也为客户提供了构建企业级生成式AI的参考范例,未来将持

2025-07-26 08:31:57 1070 1

原创 LlamaIndex 和 Elasticsearch Rerankers:无与伦比的简洁

本文介绍了如何从LlamaIndex RankGPT reranker迁移到Elasticsearch内置的语义重排序器。作者通过笔记本电脑产品搜索场景,对比展示了两种重排序方法的应用效果。Elasticsearch提供了开箱即用的重排序功能,可直接集成到检索管道中,无需额外操作且具备可扩展性。文章详细演示了使用LlamaIndex RankGPT和Elastic semantic reranker的具体实现步骤,包括数据准备、索引创建、查询执行和结果对比。测试结果表明,两种方法都能有效提升搜索质量,将高端

2025-07-25 21:30:09 1318 2

原创 使用 Elastic Observability 监控 Proxmox VE 部署

本文介绍了如何利用Elastic Observability监控Proxmox VE虚拟化平台及其运行的Linux容器(LXC)和虚拟机(VM)。通过在Intel N100迷你电脑搭建的家庭实验室中部署Elastic Agent,将数据上报至Elastic Cloud进行集中监控。文中详细演示了Kibana的主机监控功能、火焰图分析以及Observability AI助手如何通过自然语言查询快速分析系统状态。此外,还指导了如何设置CPU负载告警规则,实现系统异常的主动发现。该方案为Proxmox VE环境提

2025-07-24 15:09:02 845

原创 分层解析:生成式 AI 和以知识为中心的服务如何简化客户支持

生成式AI与KCS正在重塑客户支持模式。传统分层支持模型因响应延迟、重复沟通导致客户体验不佳。通过整合知识库和非结构化数据,生成式AI能提供实时准确的答案,实现客户自助服务并减少工单量。支持团队可借助AI快速获取解决方案,专注于复杂问题。这种转变使支持从被动响应转向主动预防,同时提升工程师角色价值,将其从重复工作中解放出来,专注于战略咨询和复杂问题解决。Elastic开发的SupportAssistant正是这一理念的实践成果。

2025-07-23 16:01:35 1034

原创 制定一个可靠的生成式 AI 数据策略的 4 个步骤

​生成式人工智能(GenAI)承诺通过自然语言输出来彻底改变组织及其团队。它承诺提供更快、更智能、更高效的技术,但却从未告诉你如何制定一个有效的策略来最大化 AI 的功能。生成式 AI 成功的关键在于一个能够将你的数据与业务优先级对齐的策略。虽然生成式 AI 的能力具有革命性,但真正的转变发生在数据、IT 和业务策略协同工作的情况下。没有以数据为中心的业务策略,即使是最先进的 AI 模型也可能无法为你的利润带来真正的价值。你最终只会拥有一堆表现不佳的工具。那么,如何确保你的企业能够充分利用生成式

2025-07-23 14:59:52 1040

原创 使用 FastAPI 构建 Elasticsearch API

本文介绍了如何使用Pydantic模式和FastAPI构建安全的Elasticsearch API层。主要内容包括:1)通过FastAPI创建中间API层来保护Elasticsearch集群,避免直接暴露查询逻辑;2)演示了数据准备过程,包括索引创建和数据导入;3)实现了基本的搜索功能,并通过Pydantic模型优化请求响应结构;4)利用FastAPI的后台任务功能处理长时间运行的删除操作。文章强调采用类型检查和有限参数控制来增强安全性,同时展示了FastAPI在简化API开发方面的优势。

2025-07-23 08:11:38 1838

原创 Elastic Cloud 简化版:GCP Marketplace

本文介绍了如何通过Google Cloud Marketplace快速部署Elasticsearch服务。主要内容包括:1) 使用Google Cloud账户订阅Elastic Cloud服务,实现集中计费管理;2) 简化的部署流程,3-5分钟即可完成生产级集群搭建;3) 三种部署方式比较,推荐使用Marketplace获得最简化的管理体验;4) 详细步骤说明,从订阅到创建部署再到API调用;5) 订阅管理和技术支持信息。该方案适合希望快速使用Elasticsearch而不想管理基础设施的用户。

2025-07-22 11:25:15 825

Elasticsearch 8.17 Logsdb:企业降本增效利器 程地华 线上 20250416

内容概要:本文介绍了Elasticsearch 8.17 LogsDB作为企业降本增效的利器,主要针对传统日志存储面临的高昂成本和低效查询性能的问题。Elasticsearch 8.17 LogsDB通过多种优化技术,如合成源优化、压缩算法优化、索引排序优化、块编解码器优化、压缩和分段合并优化,显著降低了日志数据的存储需求,提升了查询效率。具体而言,合成源优化去除了不必要的行存,压缩算法优化实现了快速无损压缩,索引排序优化提高了存储效率,块编解码器优化针对不同字段提供不同的编码策略,压缩优化了词典,分段合并优化则通过删除冗余信息节省空间。性能对比显示,LogsDB在系统日志、应用程序日志和审计日志三种类型的日志存储优化效果显著。应用场景包括大规模日志存储、企业级日志管理和实时日志监控与分析。 适合人群:从事日志管理和数据分析的技术人员,尤其是关注日志存储成本和查询性能的企业IT管理者和技术团队。 使用场景及目标:①大规模日志存储:显著减少存储空间,降低存储成本;②企业级日志管理:提高存储效率,优化查询性能,简化管理流程;③实时日志监控与分析:高效处理和查询海量日志数据,快速发现和解决问题。 其他说明:本文详细介绍了如何创建索引生命周期、索引模板、数据流以及配置写入等具体操作步骤,为企业提供了完整的实施指南。通过这些优化措施,企业可以在整个索引生命周期中持续受益,进一步降低总拥有成本。

2025-04-17

04 - 腾讯云 ES AI 搜索优化实践 - 刘忠奇 武汉 20250329

内容概要:本文详细介绍了腾讯云Elasticsearch(ES)在AI搜索优化方面的实践成果。首先探讨了一站式RAG(检索增强生成)架构的应用案例,如微信读书‘AI问书’和敦煌数字藏经阁,展示了其在智能检索、问答系统等方面的能力。接着阐述了向量裁剪技术,通过多种索引方式(无向量索引、Flat向量索引、HNSW向量索引等)显著降低了存储成本,最高可达90%。最后介绍了多算法融合排序框架,包括rank_fusion、score_fusion和rerank_fusion三种方法,提升了搜索结果的准确性和召回率。此外,还涉及了嵌入推理、对话推理等功能模块,进一步增强了系统的灵活性和实用性。 适合人群:从事搜索引擎开发的技术人员,尤其是对Elasticsearch及其AI增强功能感兴趣的研究者和从业者。 使用场景及目标:①希望通过RAG架构实现高效智能检索和问答系统的开发人员;②需要降低向量存储成本的数据科学家和技术经理;③希望提高搜索结果质量和用户体验的产品经理和运营人员。 其他说明:文中提到的具体技术细节和应用场景有助于读者深入了解腾讯云ES在AI搜索领域的最新进展和技术优势。

2025-03-31

02 - ES 在绿盟企业安全平台的应用实践 - 陆攀 武汉 20250329

内容概要:本文详细介绍了Elasticsearch(ES)在绿盟企业安全平台中的大规模应用及其优化路径。首先概述了安全大数据分析的典型场景和所面临的技术挑战,如PB级别的数据量、Ad-hoc查询性能、集群稳定性和运维成本等问题。接着阐述了ES集群的具体应用场景,包括日志查询、仪表盘展示和事件告警等功能模块。针对这些问题,文中提出了多项优化措施,如多实例部署、角色分离、master节点升级、_id移除到堆外、引入混合存储等方法,有效提升了系统的稳定性和性能。最后还讨论了写入性能方面的改进,如避免多盘陷阱、采用本地写入方式、实施预判引擎以及调整动态mapping设置等。 适合人群:从事信息安全领域的技术人员,尤其是负责大型分布式系统架构设计和技术选型的专业人士。 使用场景及目标:适用于需要处理海量日志数据的企业级安全平台建设,旨在提高数据分析效率、增强系统可靠性和降低运营维护难度。 其他说明:本文不仅提供了理论指导,还分享了许多实际案例和具体实施方案,对于希望深入了解ES集群管理和调优的读者来说非常有价值。

2025-03-31

01 - AI 驱动 - 搜索的未来 -刘晓国 武汉 20250329

内容概要:本文由Elastic中国社区首席布道师刘晓国主讲,探讨了AI驱动的搜索技术的发展方向,特别是Elasticsearch在向量搜索和语义搜索方面的创新。文章详细介绍了向量搜索的基本概念、实现方法以及具体应用场景,如图片相似度搜索、混合搜索、语义搜索等。此外,还讨论了Elasticsearch在硬件加速、模型管理、推理API等方面的最新进展,以及如何通过Retrieval Augmented Generation (RAG) 技术提升搜索质量和安全性。 适合人群:对AI驱动的搜索技术感兴趣的开发者、数据科学家、企业IT决策者。 使用场景及目标:适用于需要高效、精准搜索的企业级应用,尤其是涉及大规模非结构化数据处理的场景。目标是帮助用户更好地理解和应用最新的搜索技术,提升业务效率和用户体验。 其他说明:文中提供了丰富的技术细节和实例,包括向量相似度计算、模型训练与部署、搜索架构优化等方面的内容。同时,还提到了Elasticsearch与其他AI工具和服务的集成,如OpenAI的CLIP模型、HuggingFace等。

2025-03-31

05 -Elasticsearch 存算分离架构在小米的应用实践 - 周明裕 郑钧元 武汉 20250329

介绍了 ElasticSearch 服务存算分离架构在小米的技术演进过程和实现思路,日志场景可实现单集群 50% 成本优化,提升整体技术性价比

2025-03-31

03 - Agentic RAG 构建之路 - 李捷 武汉 20250329

内容概要:本文详细介绍了Elasticsearch(ES)作为构建Agentic RAG(检索增强生成)系统的理想引擎的原因。首先探讨了传统RAG系统的局限性,然后重点阐述了ES如何通过其强大的查询规划、工具使用、动态查询规划以及数据超融合等功能克服这些问题。文中还展示了具体的案例研究,如财务风险报告、生产线良品率分析、市场销售情况评估等,强调了ES在处理复杂查询、多源数据融合和实时数据分析方面的卓越表现。此外,文章讨论了ES提供的多种查询语言和支持的广泛功能,如多模态嵌入、GPU加速、自动分块策略等,进一步证明了它在构建高效、灵活的Agentic RAG系统中的独特地位。 适合人群:对构建高级检索增强生成系统感兴趣的开发者和技术决策者,尤其是那些希望利用Elasticsearch提升数据处理能力和智能化水平的专业人士。 使用场景及目标:适用于需要处理大量异构数据的企业,旨在提高数据检索效率、增强分析能力、优化业务流程。具体应用场景包括但不限于财务风险管理、生产质量监控、市场营销分析等。 其他说明:文章不仅深入剖析了技术细节,还提供了实际操作指南和最佳实践建议,帮助读者更好地理解和应用

2025-03-31

02-GraphRAG 和 Elasticseach 8 的创新实践 - 徐胜 上海 20250222

主要分享结合 Elasticsearch 8 的最新特性和微软的最新技术 GraphRAG,来实现垂域知识库的智能体知识问答的方法和技术案例。Elasticsearch 8 里面的混合检索和多路召回技术,和知识图谱完美结合,实现了更优秀的问答效果。

2025-03-03

01-AI 驱动 - 搜索的未来 - 刘晓国 上海 20250222

内容概要:本文探讨了AI驱动的未来搜索技术,特别是通过Elasticsearch实现的向量搜索和语义搜索。首先介绍了为何需要向量搜索及其基本概念,随后深入讲解了Elasticsearch中的向量搜索实现细节、向量相似度测量方法,以及如何整合图像和文本搜索。接着,描述了向量和经典搜索混合的方法,强调了RAG(检索增强生成)的作用。最后,文章讨论了Elasticsearch在硬件加速方面的进步及未来的发展方向,如稀疏向量搜索和学习排序等新技术的应用。 适合人群:熟悉搜索引擎和机器学习的基础知识的技术爱好者和专业工程师。 使用场景及目标:帮助开发者理解和掌握最新的AI驱动搜索技术,包括搭建高效能的语义和向量搜索系统,以及优化搜索结果的相关性和速度。同时,探索将这些先进技术应用于实际项目中解决具体业务问题的可能性。 其他说明:文中提供了许多具体的示例,如基于变压器模型的文字向量表示,图片相似度查找实例,并展示了使用Elastic Stack实现复杂混合搜索的实际操作。还涉及到一些高级特性,如KNN查询、ELSER模型训练、以及Retriever API的设计原理。

2025-03-03

04-Elasticsearch 在 AI 驱动下的检索新特性 - 槐新 上海 20250222

内容概要:本文详细介绍了阿里云 Elasticsearch 在 AI 技术推动下所发展的新型搜索能力。涵盖了语义搜索、多模态搜索、RAG(检索增强生成)、AI 助理等方面的新特性和技术进步。特别是在向量搜索方面,阿里云 ES 向量增强版能够高效处理结构化和非结构化数据,将其转化为向量形式,极大提升了搜索效率和精度。此外,还探讨了性能瓶颈及解决方法,以及弹性架构、数据安全性等重要特点,展现了该产品的高性能、低成本和技术灵活性。 适合人群:对于希望深入了解现代搜索技术和向量索引的技术开发者、工程师、研究学者及有兴趣了解前沿科技的应用程序管理员。 使用场景及目标:适用于需要处理大量文本、图像、音频视频等多媒体资料的企业和个人用户。旨在提高搜索系统的智能化水平,帮助企业更快更准地获取所需信息,并优化用户体验。例如,在客服、电商、医疗等领域实施多模态检索和服务机器人等功能,可显著增强业务竞争力。 其他说明:文中提到多个具体案例和技术细节,如性能测试、硬件加速指令的应用、模型量化的优势等,强调了技术的实际应用价值和发展趋势。同时展示了与第三方平台的良好协作,提供了丰富的接口和支持,方便用户的集成与

2025-03-03

03-基于 ES 与 LLM 技术构建 B站大数据运维智能体实践 - 张勋祥 上海 20250222

内容概要:本文由哔哩哔哩资深开发工程师张勋祥讲解了基于Elasticsearch(ES)和大型语言模型(LLM)技术,为解决B站庞大的运维挑战所采取的策略。首先,介绍了当前面临的业务现状,即大量问题咨询以及多样化计算引擎带来的复杂运维问题,这些问题使得自动化运维变得尤为迫切。其次,在详细的场景分析基础上提出并实施了一套智能运维系统。该系统依托于私域知识库来解答咨询和支持故障诊断等功能,涵盖Flink、Spark等多个主流组件,显著提升了处理效率与准确性。此外,针对关键的技术难题如查询改写优化等问题,文中分享了一系列有效的解决手段。最后展示了具体应用场景,如对Flink的作业断流现象进行分析。同时对未来发展规划进行了探讨,强调将继续推进运维智能化水平。 适用人群:适用于有兴趣于大数据架构下智能运维解决方案的研发人员和技术经理,特别是从事Flink、Spark等领域工作的人群。 使用场景及目标:本研究旨在为面临大规模分布式系统的团队提供有价值的见解和技术指导,帮助他们更好地理解和应用智能运维方法论来应对复杂场景中的各类运维挑战。 其他说明:文章提供了丰富的图表及案例分析,便于读者直观地掌握

2025-03-03

03-Elasticsearch 在 AI 检索与 Serverless 模式成本优化的新特性 王亚宁 北京 20241214

本次议题将深入探讨 Elasticsearch 在 AI 检索和 Serverless 模式方面的最新进展,重点介绍如何利用这些新特性提升检索体验、快速搭建企业级 RAG 服务,以及在日志场景如何通过 Serverless 模式实现显著的成本优化和性能提升。

2024-12-17

01-AI 驱动 - 搜索的未来 刘晓国 北京 20241214

内容概要:本文由Elastic中国社区首席布道师刘晓国在北京2024年12月14日的演讲内容整理而成,重点介绍了AI驱动的Elasticsearch向量搜索与语义搜索技术。文章首先探讨了向量搜索的需求背景,包括经典搜索的局限性和向量搜索的优势。随后,详细讲解了向量相似度的基础知识,如稀疏向量和密集向量,以及Elasticsearch如何实现向量搜索。文章还涵盖了Retrievers的使用方法,以及如何在Elasticsearch中使用第三方嵌入模型,如OpenAI的CLIP模型。此外,还介绍了Elasticsearch向量引擎的最新进展,包括硬件加速、向量量化和并发查询改进等方面。最后,讨论了RAG(检索增强生成)的架构及其在生成式人工智能中的应用,特别是如何结合私有数据和大型语言模型(LLM)来解决特定领域的问题。 适合人群:大数据处理、搜索引擎和自然语言处理方向的工程师及研究者。 使用场景及目标:① 了解和掌握Elasticsearch向量搜索和语义搜索的实现方法和技术细节;② 探索如何在企业级应用中集成和使用这些技术;③ 理解RAG架构在生成式人工智能中的应用。 阅读建议:本文内容较为深入,涉及较多的技术细节和实际操作,建议读者在阅读过程中配合官方文档和示例代码,以便更好地理解和实践相关技术。

2024-12-16

04 - 降本增效的利器,认识一个不同的 Elastic 顾鹏飞 北京 20241214

内容概要:本文介绍了Elastic作为一个领先的AI搜索引擎公司,其全球布局及在中国区的业务生态。强调了Elastic解决方案帮助企业从全量规模化的数据中快速获取价值,提升效率,降低成本。文中详细阐述了Elastic三大核心方案(可观测性、安全和搜索)的具体功能及其如何帮助企业构建灵活的解决方案。同时,文档还介绍了Elastic的两项关键技术——跨集群复制(CCR)和可搜索快照(searchable snapshot),这两项技术大大提升了企业在混合云环境下的容灾能力和存储成本的优化。 适合人群:对Elastic及其技术感兴趣的企业决策者、IT技术专家及数据科学家。 使用场景及目标:帮助企业利用Elastic的技术方案提升数据处理和分析能力,优化IT基础设施,降低成本,提高运营效率,更好地应对复杂多变的数据安全和性能需求。 阅读建议:本文详细介绍了Elastic的各项技术和实际应用案例,读者可以通过具体案例深入了解Elastic的技术优势和实施效果。

2024-12-16

02-Kibana 构建高级可视化 包春喜 北京 20241214

内容概要:本文详细介绍了Kibana在构建高级可视化中的应用,涵盖Elastic Geo类型(geo_point和geo_shape)的定义和使用方法,以及Elastic Maps的介绍。此外,文章还详细讲解了Vega的声明式语法及其在Kibana中的应用场景,帮助读者了解如何通过编写Vega语句实现复杂的自定义可视化。 适合人群:熟悉Kibana和Elasticsearch的基础操作,希望深入了解地理空间数据可视化和自定义图表的技术人员。 使用场景及目标:①在Elasticsearch中定义和使用geo_point和geo_shape类型;②利用Elastic Maps进行地理空间数据的分析和可视化;③通过Vega创建复杂的自定义图表,满足特定的可视化需求。 其他说明:文章提供了详细的示例代码和实际应用案例,帮助读者更好地理解和应用Kibana的高级可视化功能。

2024-12-16

02-Elasticsearch 8.x 向量搜索使用详解 杭州 1.6 2024

内容概要:本文详细介绍了 Elasticsearch 8.x 版本中的向量搜索技术和优化方法。首先概述了传统暴力搜索和HNSW & KNN的对比,强调了HNSW在大数据量下的性能优势。接着讨论了向量搜索在具体应用中的多种操作,如多个kNN字段的向量搜索、聚合查询、滤波器在近似kNN搜索中的重要性和效果。此外,还涉及了使用 RRFRanking 算法对混合搜索引擎的结果进行排序,以及使用第三方机器学习模型进行语义搜索的方法和技术细节。最后,提到了Elastic训练的稀疏召回模型ELSER及其优势。 适合人群:Elasticsearch 开发者,数据科学家,搜索系统架构师。 使用场景及目标:①优化向量搜索性能,特别是在大规模索引上的查询速度;②理解并向量化搜索引入更多高级功能,如语义搜索和混合评分机制。 其他说明:文中提供了多个实践案例和优化技巧,有助于读者快速掌握 Elasticsearch 在复杂搜索场景中的应用。

2024-12-10

高管指南:如何将生成式AI融入运营

内容概要:本文是一本高管指南,详细介绍如何将生成式 AI 技术融入业务运营,从理论基础到实践步骤,涵盖了生成式 AI 的定义、发展现状及其关键技术。文章通过具体的行业案例,展示了生成式 AI 在电信、金融、零售等多个行业中的应用效果,提出了一套六步走的具体实施方案,强调了从试验到正式实施过程中需要注意的关键点,如数据安全、模型选择和管治等问题。 适合人群:企业高管、技术负责人、项目经理和其他希望了解如何利用生成式 AI 提升业务效能的读者。 使用场景及目标:本文适用于企业在数字化转型过程中,希望通过生成式 AI 优化业务流程、提高工作效率和客户满意度的各种场景。目标是帮助企业和团队在实际运营中有效应用生成式 AI,实现业务增长和技术进步。 其他说明:生成式 AI 的实施需要考虑数据隐私和安全问题,同时还需要团队的合作和技能培训。通过逐步推进和不断迭代,最终实现生成式 AI 的全面融合,为企业带来更大的商业价值。

2024-12-05

Elastic帮助企业发挥数据的作用

内容概要:本文详细探讨了IT领导者如何通过实时数据分析解决方案来提升企业的数字客户体验、运营弹性和网络安全性。具体介绍了数据挑战和业务复杂性增加的原因,提出了搜索驱动型解决方案的优势和应用场景,并列举了多个实际案例来说明其效果。同时,文中对比了传统方法与搜索驱动型解决方案的优劣,强调了后者在实时性和易用性方面的显著优势。 适合人群:对企业IT管理和数据分析感兴趣的IT专业人士、项目经理和技术负责人。 使用场景及目标:① 改善数字客户体验,确保系统稳定性和安全性;② 优化数据处理和检索速度,减少数据孤岛;③ 实现统一的平台管理和灵活的架构部署,提高运营效率;④ 利用Machine Learning和AIOps技术实现智能化数据分析。 其他说明:文章通过实例展示了Elastic的解决方案,包括Elastic可观测性、Elastic安全性和Elastic企业搜索,为企业提供了具体的实施路径和方法。阅读过程中,可以通过实际案例更好地理解技术的实际应用和带来的效益。

2024-12-05

Elastic最新产品及解决方案

内容概要:本文介绍 Elastic 的最新产品及解决方案,帮助企业解决数据挑战并加速商业成功。主要内容包括数据孤岛和重复数据的问题及其解决方案、提升用户体验、降低安全风险和优化运营等方面的措施。强调了通过Elastic提供的全面可观测、安全和搜索解决方案来实现业务成长的具体方法和技术优势。文中还详细介绍了Elastic的技术架构、功能特点以及与其他产品的对比,展示了Elastic作为行业领导者的地位和市场表现。 适用人群:企业管理者、IT决策者、数据分析专家、网络安全专业人员和研发工程师。 使用场景及目标:旨在帮助企业和组织更好地利用数据资产,具体应用场景涵盖了日志管理、APM监控、安全分析、AI/ML模型构建等多个方面,目的是构建弹性业务流程、提高运营效率、保障信息安全和改善客户体验。 其他说明:Elastic提供了一个强大而灵活的数据平台,通过整合各类先进的技术如机器学习、实时分析等,为企业提供了广泛的服务范围,包括但不限于搜索引擎优化、安全性增强和业务智能化。此外,它还支持多种部署模式(公有云、私有云和本地部署)以满足不同类型客户的个性化需求。

2024-12-05

02-ES-小工具撬动大杠杆- 日常高效运维 Elastic - 尚雷 线上 20241128

如何通过编写自动化运维脚本处理 Elastic 故障、降低人工运维成本 1、 如何快速平衡节点分片 2、 如何快速处理索引未分片 3、 如何处理 Kibana 程序宕无法访问 4、 如何获统计索引占用空间大小

2024-11-29

01-Elastic 向量搜索及 构建 RAG 应用 - 刘晓国 线上 20241128

1、为什么需要向量搜索? 2、向量相似度基础知识 3、使用 Elastic 实现向量搜索 4、检索增强生成 - RAG

2024-11-29

01-基于Elastic地理位置检索-搜索附近 j九川 线上 20250806

内容概要:本文详细介绍了基于Elasticsearch的地理位置检索技术,特别是“搜索附近”的应用场景。文章首先介绍了讲师背景,包括丰富的行业经验和多个知名平台的认证。接着阐述了地理位置检索在实际生活中的多种应用,如地理围栏、社交APP的“附近的人”、疫情追踪、物流追踪等。随后对比了不同技术方案(MySQL/PostgreSQL、Redis GEO、Elasticsearch、MongoDB、PostGIS)在查询性能、扩展性、功能性和适用数据量方面的优劣,强调了Elasticsearch在复杂搜索和地理信息处理上的优势。最后深入讲解了Elasticsearch支持的地理位置检索类型,包括`geo_point`、`geo_shape`和`geo_polygon`,并展示了具体的使用案例和技术细节。 适合人群:具备一定编程基础,尤其是对地理信息系统和Elasticsearch感兴趣的开发人员和技术爱好者。 使用场景及目标:①实现基于地理位置的搜索功能,如“搜索附近的XX”(医院、外卖、学校、商场等);②构建地理围栏,监控用户是否进入特定区域;③进行实时轨迹分析和安全预警;④优化LBS(基于位置的服务)系统的性能和扩展性。 阅读建议:本文不仅提供了Elasticsearch地理位置检索的技术实现方法,还对比了多种技术方案,因此在阅读时应重点关注Elasticsearch的优势及其具体应用场景,并结合实际项目需求选择合适的技术方案。此外,对于地理坐标系统(如WGS84、GCJ-02、BD-09等)的理解也有助于更好地掌握地理位置检索技术。

2025-08-07

01-基于Elastic地理位置检索-搜索附近 j九川 线上 20250806.zip

01-基于Elastic地理位置检索-搜索附近 j九川 线上 20250806.zip

2025-08-07

02-腾讯云 ES 百亿级 AI Search 优化实践 陈曦 深圳 20250727

分享腾讯云 ES 如何通过文本语义理解、向量空间建模与AI推理能力的三位一体架构,助力 IMA/微信读书/视频号等头部产品实现多模态检索能力。在生成式AI重塑产业格局的当下,我们正推动搜索技术从「信息匹配」向「认知理解」的范式转移,打造业界领先的「搜索即服务」智能基座。

2025-07-30

03-Elastic - Agentic RAG 构建之路 李捷 深圳 20250727

内容概要:本文详细介绍了Elastic-Agentic RAG的构建路径及其优势。RAG(Retrieval-Augmented Generation)是一种结合检索和生成模型的技术,而Agentic RAG进一步增强了这种能力,使其能够处理更复杂的企业级应用场景。文章首先探讨了RAG的局限性,指出传统的RAG主要局限于特定的知识库检索,难以应对多源数据融合、复杂格式处理以及实时数据查询等问题。接着,文章阐述了构建Agentic RAG所需的引擎,强调了其需要具备的进阶能力,如多步推理、动态任务规划、复杂数据处理和跨源协作检索等。此外,文中还展示了Elasticsearch在生成式AI应用中的全面功能,包括创建向量嵌入、混合搜索、灵活选择嵌入模型、过滤和切片等功能,突出了Elasticsearch相较于其他向量数据库的优势。最后,文章通过案例研究,如微信读书的智能阅读实践和敦煌数字藏经阁的RAG问答实践,展示了Elastic-Agentic RAG的实际应用效果,如提高客户和员工满意度、降低风险和总拥有成本等。 适合人群:对企业级AI应用感兴趣的IT专业人士、数据科学家、架构师以及希望了解如何利用AI技术优化业务流程的管理人员。 使用场景及目标:①解决企业内部复杂的数据处理和查询需求,如财务风险报告、生产良品率分析等;②实现多源数据的无缝整合,打破数据孤岛,提高数据利用率;③通过智能化的查询和分析工具,提升业务决策的速度和准确性;④构建高效、安全、可扩展的AI基础设施,支持企业的长期发展。 其他说明:Elastic-Agentic RAG不仅是一个技术解决方案,更是企业数字化转型的重要工具。它帮助企业更好地理解和利用自身

2025-07-30

01-AI 驱动 - 搜索的未来 刘晓国 深圳 20250727

1)为什么需要向量搜索? 2)RAG 是什么? 3)Elastic 在向量搜索上的最新进展 4)案例分析

2025-07-30

04-Elasticsearch 在日志系统的应用 石樊 深圳 20250727

内容概要:本文详细介绍了富途网络科技有限公司在其日志系统中应用Elasticsearch(ES)的经验,涵盖日志系统的架构、遇到的问题及其解决方案,以及引入ES serverless的原因和效果。富途的日志系统包括SDK、公共组件、Nginx及第三方日志的采集,支持JSON、行采集、分隔符采集等多种格式,确保日志的结构化和字段一致性。针对日志流量波动导致的ES稳定性问题,采用kafka弹性流量、logstash容器自动扩缩容、ES serverless等措施,解决了写入延迟和索引滚动时的短暂写入阻塞。此外,还解决了日志写入时的类型冲突问题,并通过引入ES serverless降低了运维复杂度和成本。未来,富途计划利用ES的文本分类聚合功能,支持日志聚类和AI分析。 适用人群:从事日志系统开发、运维的技术人员,尤其是对Elasticsearch有需求或正在使用的企业IT团队。 使用场景及目标:①解决日志系统中常见的流量波动、类型冲突等问题;②优化日志系统的性能和成本;③探索日志系统的未来发展,如日志聚类和AI分析。 其他说明:本文不仅提供了技术实现的具体方法,还分享了

2025-07-30

Elasticsearch 可搜索快照 - 降本增效的实践与探索 线上 夏乔 20250717

内容概要:本文详细介绍了Elasticsearch可搜索快照技术,旨在解决大规模Elasticsearch集群中历史归档数据带来的高存储成本、低访问效率和大运维压力的问题。文章首先分析了痛点,包括TB级数据积累导致的历史归档数据占比高、存储成本高、访问效率低等问题。接着介绍了现有Hot-Warm-Cold架构结合ILM的局限性,并提出可搜索快照作为改进方案。可搜索快照允许直接在低成本对象存储上的快照数据中进行搜索,无需预先恢复索引,具有降低存储成本、计算与存储分离、可在线访问归档数据和简化运维等优势。文章还详细解释了可搜索快照的工作原理,包括快照创建、挂载、按需加载和缓存机制。 适合人群:Elasticsearch集群管理员、运维工程师、系统架构师和技术决策者。 使用场景及目标:①适用于日志、指标、APM数据的长期归档与分析;②用于合规性与审计;③作为灾难恢复的只读副本;④支持跨集群搜索历史数据;⑤通过计算与存储分离,实现资源独立扩展,降低运维压力。 其他说明:本文不仅介绍了可搜索快照的技术细节,还通过实际案例展示了其在降本增效方面的显著效果。建议读者结合自身集群情况,评估并实施可搜索快照,以优化数据管理和降低总体拥有成本。

2025-07-18

【大数据知识库】基于Qwen2.5-14B与Elasticsearch的智能问答系统设计:传统检索与向量检索对比及RAG架构应用

内容概要:本文详细介绍了基于Qwen2.5-14B与Elasticsearch的大数据知识库智能问答系统。首先,文章对比了传统检索和向量检索的特点,指出向量检索在语义理解和复杂查询方面的优势。接着,阐述了RAG(检索增强生成)架构的工作流程及其核心价值,包括提高回答准确性、实时更新知识库、减少生成内容的虚构风险等。最后,重点介绍了基于大模型和Elasticsearch构建的智能问答系统的技术方案和实测效果,展示了其在处理多格式文档、专业术语理解等方面的高效性,并提出了进一步优化的方向,如模型微调、向量化改进和文档切分粒度调整。 适合人群:对大数据处理、自然语言处理和智能问答系统感兴趣的开发人员、数据科学家和技术爱好者。 使用场景及目标:①构建针对非公开文档的高效、精准、自然语言交互式智能知识问答系统;②支持多格式文档的统一处理与检索;③提升企业内部知识管理和信息获取的效率;④应用于客服机器人、知识问答、技术支持、教育与学习等领域。 其他说明:本文不仅介绍了技术原理,还提供了具体的实施步骤和代码示例,如使用FSCrawler进行文档摄取、利用text2vec模型进行向量化等。此外,文章强调了系统在实测中的高效性和准确性,并展望了未来的技术优化方向,鼓励读者结合自身业务场景深入探索和实践。

2025-07-10

01-AI 驱动 - 搜索的未来 刘晓国 南京 20250628

1)为什么需要向量搜索? 2)RAG 是什么? 3)Elastic 在向量搜索上的最新进展 4)案例分析

2025-06-28

【AIOps领域】基于M02-双 MCP 赋能ES Luke 南京 20250628CP框架的Elasticsearch与Kibana智能根因分析系统设计:提升企业数据洞察效率和自动化运维能力

内容概要:本文介绍了在双 MCP框架下,Elasticsearch (ES) 和 Kibana 新一代 AIOps 实践的发展和应用。文章首先概述了项目背景,指出尽管 ES 已经在自动化根因分析、动态数据洞察等方面展现了巨大潜力,但其在 AI 领域的应用尚未得到充分挖掘。接着,文章详细解释了 MCP(模型上下文协议)的概念及其重要性,强调它是 AI 助手与外部数据源无缝交互的关键协议,类似于 AI 领域的“USB-C”或“HTTP”协议。MCP 定义了应用程序和 AI 模型间交换上下文信息的标准方式,简化了 AI 应用的开发和集成。文中还展示了如何通过 MCP 实现 ES 和 Kibana 的智能交互,具体包括资源读取、工具调用、提示模板等功能,并通过实际案例演示了利用 LLM 和 MCP 快速处理安全事件的流程。最后,文章展望了未来的发展方向,如开源 ES 的大模型记忆模块和开发专门的 MCP 客户端。 适合人群:对 AIOps、Elasticsearch、Kibana 或 AI 技术感兴趣的 IT 专业人员,特别是那些希望提高数据分析效率、优化系统管理和提升安全性的技术人员。 使用场景及目标:①利用 MCP 实现 ES 和 Kibana 与 LLM 的无缝对接,加速故障排查和根因分析,将工作量从数小时甚至几天缩短至分钟级别;②通过自然语言交互方式,使 AI 能够理解和生成数据洞察,优化数据可视化;③构建高效的数据驱动 AI 解决方案,提升企业在复杂 IT 环境中的问题诊断和优化能力。 其他说明:文章由 AI 解决方案架构师 Luke Azmat Ablat 主讲,他专注于 ES 在 AI 领域的应用,曾主导多个相关项目并推动了 ES/Kibana MCP Server 开源项目的发展。读者可以通过官方 GitHub 获取更多关于 MCP 社区和项目的最新进展。

2025-06-28

03-Elasticsearch 数据流转之道 - 从写入到查询的技术探秘 尚雷.南京 20250628

内容概要:本文深入探讨了Elasticsearch的数据流转机制,从写入到查询的全过程进行了技术剖析。首先强调了关注数据流转的重要性,包括性能优化、瓶颈识别、资源配置和成本控制。接着介绍了Elasticsearch如何基于PacificA算法进行改进,以适应互联网级别的数据架构需求。文章详细解析了Elasticsearch的写入和读取流程,包括路由机制、刷新与合并操作,以及不同写入模式的选择。最后通过实际案例展示了性能优化的具体方法,如合理设置副本数量、优化索引大小和管理操作系统缓存。 适合人群:具备一定Elasticsearch使用经验的开发人员和技术管理人员,尤其是对性能优化和架构设计有需求的用户。 使用场景及目标:①理解Elasticsearch内部机制,识别性能瓶颈并进行优化;②掌握写入和查询流程,合理配置系统资源;③通过实际案例学习如何优化索引、副本设置和缓存管理,提高系统稳定性和响应速度。 阅读建议:本文内容较为深入,建议读者结合自身应用场景,重点关注与自身业务相关的性能优化部分,并尝试在实际环境中应用所学知识,进行针对性的调整和测试。

2025-06-28

04-ES日志集群大规模迁移实践-李猛-南京-20250618

内容概要:本文详细介绍了ES(Elasticsearch)日志集群的大规模迁移实践,由Elastic Stack实战专家李猛分享。迁移背景涵盖现有集群架构、日志规模、性能需求及新集群架构特点。针对迁移方案,文中对比了Reindex、Backup&Restore、Logstash/三方工具以及CCR四种方法,最终确定以CCR为主、Reindex为辅的组合策略。迁移实践中,重点讲述了CCR配置、任务脚本编写与执行的具体步骤。同时,针对迁移过程中遇到的新旧集群并行切换、CCR并行与索引限制、旧集群架构限制、迁移时间段限制、超大索引、数据一致性及硬件问题进行了深入剖析。最后,探讨了ES运维工具包(如数据比对脚本、CCR创建+取消工具)的应用。 适合人群:具备一定Elasticsearch使用经验,从事日志管理、运维工作的技术人员。 使用场景及目标:①了解ES日志集群大规模迁移的完整流程与关键步骤;②掌握不同迁移方案的选择依据及其优缺点;③解决迁移过程中可能遇到的技术难题;④提升ES集群运维效率与稳定性。 阅读建议:本文内容详实,技术细节丰富,在阅读时应重点关注迁移方案的选择依据、实际操作步骤以及遇到的问题和解决方案。建议读者结合自身实际情况,参考文中提供的具体案例和技术手段,逐步理解和掌握ES日志集群迁移的相关知识。

2025-06-28

腾讯云 ES AI 搜索优化实践 刘忠奇 线上 20250605

1. RAG 架构的搜索增强实践 2. 自研 v-pack 插件向量增强技术解析 * 存储降本九成:向量裁剪技术 * 准召提升手段:多算法融合排序框架

2025-06-05

ES/Ksibana 双MCP框架下的新一代AiOps实践 Luke 线上 20250521

内容概要:本文介绍了Elasticsearch和Kibana在双MCP框架下实现的新一代AIOps实践。作者Luke Azmat Ablat是AI解决方案架构师,专注于Elasticsearch在AI领域的应用,特别是在低资源语言搜索体验和复杂混合搜索方面的优化。文中强调了MCP(模型上下文协议)的重要性,它由Anthropic提出并被广泛认可,旨在统一AI模型与外部数据源的交互方式。通过MCP协议,Elasticsearch和Kibana能更好地结合LLM能力,实现分钟级别的故障排查和根因分析,极大提升了AIOps效率。具体应用包括实时搜索、可视化管理和智能交互,涵盖从集群状态检查到异常区域深度调查等多个场景。; 适合人群:对AI运维(AIOps)、Elasticsearch和Kibana有研究兴趣或工作需求的技术人员,尤其是从事IT运维、数据管理和AI开发的专业人士。; 使用场景及目标:①利用MCP协议整合Elasticsearch和Kibana,实现高效的自动化根因分析;②通过自然语言交互简化集群管理和数据分析流程;③优化数据洞察,提高故障排查速度,从数小时甚至数天缩短到几分钟。; 其他说明:本文不仅探讨了技术理论,还提供了实战演示,展示了如何在现有环境中部署和使用MCP框架。未来计划包括开源大模型记忆模块和支持中英混合搜索等功能,进一步扩展Elasticsearch的应用范围。

2025-05-22

03-Elasticsearch跨境电商搜索优化实践 欧阳楚才 杭州 20250419

内容概要:本文由欧阳楚才分享,主要介绍了Elasticsearch在跨境电商搜索优化中的实践。文章首先指出跨境电商搜索面临的问题,如搜索词意图丰富、分词准确性、搜索关键词多义等,随后详细阐述了搜索业务架构,包括意图识别、类目预测、实体识别、同义词扩展、分词处理、尺寸识别、停用词过滤、词干提取等方面的技术细节。接着,文章探讨了搜索召回和排序机制,强调了通过字段加权计算相关性评分和点击率预测CTR模型来优化搜索结果的重要性。最后,还涉及了性能压测、商品属性字段聚合优化以及数据埋点等内容,旨在提升搜索服务的整体性能和用户体验。; 适合人群:从事跨境电商、搜索引擎优化、Elasticsearch技术应用的相关从业人员,尤其是有一定Elasticsearch基础的研发人员和技术管理者。; 使用场景及目标:①理解和解决跨境电商搜索中的常见问题,如搜索词意图识别、多语种分词、关键词多义性等;②掌握通过类目预测、实体识别、同义词扩展等方法提高搜索召回率和准确性的技术手段;③学习如何通过性能压测、数据埋点等手段优化搜索服务的性能和用户体验。; 其他说明:本文提供了丰富的实际案例和技术细节,建议读者结合自身业务场景进行实践,并参考文中提供的具体配置和优化方法,不断调整和改进搜索系统。

2025-04-19

01-AI 驱动 - 搜索的未来 刘晓国 杭州 20250419

1)为什么需要向量搜索? 2)RAG 是什么? 3)Elastic 在向量搜索上的最新进展 4)案例分析

2025-04-19

02-阿里云Elasticsearch向量引擎百亿级数据优化实践 魏子珺 杭州 20250419

深度解析阿里云 Elasticsearch 向量引擎从8.0到8.x最新版本的技术跃迁,揭秘 Elasticsearch 向量引擎如何处理百亿级向量数据。分享向量引擎与文本搜索、AI 模型的无缝整合方案,探讨如何通过混合检索能力优化 RAG(检索增强生成)、Deep Search 等企业级场景。

2025-04-19

05-ES AI Assistant集成 DeepSeek QwQ,搭建智能运维助手 槐新 杭州 20250419与应用场景演示

内容概要:本文详细介绍了如何通过集成DeepSeek/QwQ模型搭建基于Elasticsearch(ES)的智能运维助手,以提升运维效率和问题解决能力。文章首先阐述了大语言模型(LLM)在知识问答场景中的局限性,如幻觉问题、知识受限等,进而引出检索增强生成(RAG)技术的优势,包括实时更新知识库、可解释性和减少幻觉。接着,文章介绍了新一代AI搜索应用——Agentic RAG,它通过引入人工智能代理,实现了多源协同检索、多轮交互和复杂任务处理的能力。此外,文章还展示了Elasticsearch的功能及其与DeepSeek/QwQ的深度集成,具体包括实时状态诊断、动态生成可视化数据看板、智能查询构建等。最后,通过几个实际应用场景的演示,如集群运维、可视化分析和DSL查询生成,展示了该智能运维助手的强大功能。 适合人群:具有运维经验的IT工程师、系统管理员以及对Elasticsearch和AI技术感兴趣的开发者。 使用场景及目标:①通过自然语言指令自动构建精准查询语句,实现查询构建-执行-优化的全流程自动化;②辅助集群运维和索引管理,提供智能建议,降低技术门槛;③进行可视化分析,帮助用户快速理解日志信息,生成相关图表;④支持多模态向量搜索,提升搜索精度和开发体验。 阅读建议:由于本文涉及大量技术细节和实际操作步骤,建议读者在阅读时结合实际案例进行理解和实践,尤其是对Elasticsearch和AI技术的应用有初步了解的读者,可以通过动手实验加深理解。

2025-04-19

04-Higress x Elasticsearch构建更智能的AI网关 程治玮 20250419

介绍 Higress AI 网关在推理服务场景下提供的多模型适配、故障切换、多租户管理、Token 限流与内容安全等核心能力,并深度集成 Elasticsearch 实现语义化缓存、RAG 搜索和可观测等高级功能。

2025-04-19

00-Elastic Pioneer-项目

内容概要:Elastic China Pioneer Program(先锋者计划)是Elastic中国发起的大使招募计划,旨在汇聚生态伙伴、用户及开发者力量,共同推广Elastic搜索技术。该计划明确了Pioneer的使命为传播Elastic技术魅力、分享应用心得,助力Elastic在中国市场的发展。Pioneer可通过发表演讲、撰写文章、录制视频、GitHub代码贡献、提供解决方案等方式获取积分,不同形式的贡献对应不同分值。活动设有严格的审核机制,确保公平公正,参与者可凭作品质量获得相应积分,有广泛影响力的贡献还能得到额外奖励。此外,该计划还设立了月度和年度榜单机制,月度榜单每月评选一次,年度榜单前三名可获直通Elastic ON新加坡站等丰厚奖励,所有奖励均与积分挂钩,鼓励持续贡献。 适合人群:热爱Elastic技术,愿意为其发声的生态伙伴、广大用户及社区开发者。 使用场景及目标:①通过多种方式宣传推广Elastic技术,扩大其在中国市场的影响力;②激励更多人参与到Elastic的技术生态建设中来,推动Elastic技术的发展。 其他说明:活动期间,Elastic官方有权对提交内容进行二次加工、修改、传播,优秀内容将通过官方渠道推广分享。

2025-04-19

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除