solr全量更新和增量更新的认识

数据仓库系列13:增量更新和全量更新有什么区别,如何选择? 今天,让我们深入探讨这个数据仓库领域的核心问题,揭示增量更新和全量更新的秘密,帮助你在实际工作中做出明智的选择。 阅读详情

solr 的全量更新与增量更新

  1. solr 的增量更新
    1.首先要弄懂几个必要的属性,以及数据库建表事项,和dataimporter.properties 、data-config.xml里面的数据

2.数据库配置注意事项
1.如果只涉及添加,与修改业务,那么数据库里只需额外有一个timpstamp字段
就可以了,默认值为当前系统时间,CURRENT_TIMESTAMP
2.如果还涉及删除业务,那么数据里就需额外再多添加一个字段isdelete,int类型的
用0,1来标识,此条记录是否被删除

3.dataimporter.properties
这个配置文件很重要,它是用来记录当前时间与上一次修改时间的,通过它能够找出,那些,新添加的,修改的,或删除的记录标识,此条记录是否被删除的记录

4.增量更新就是在全量更新的基础上加上一些配置,配置如下:

<?xml version="1.0" encoding="UTF-8" ?>
<dataConfig> 
    <!--数据源-->
    <dataSource type="JdbcDataSource"
                driver="com.mysql.jdbc.Driver"
                url="jdbc:mysql://192.168.2.10:3306/xtjkqyfw"
                user="root"
                password="Biaopu8888"/>
    <document> 

        <entity name="solrTest" 
        query="SELECT fid,ftime,fcontent,ftitle,flastupdatetime FROM solrTest where flag = '0'"
        deltaImportQuery = "SELECT fid,ftime,fcontent,ftitle,flastupdatetime FROM solrTest where fid = '${dataimporter.delta.fid}'"
        deltaQuery = "SELECT fid FROM solrTest where flastupdatetime > '${dataimporter.last_index_time}' and flag = '0'"
        deletedPkQuery = "SELECT fid FROM solrTest where flag = '1'"
        >
            <!--查询的数据和数据库索引意义对应column 是查询的字段name 是solr索引对应的字段-->
            <field column="fid" name="fid"/>
            <field column="ftitle" name="ftitle"/>
            <field column="fcontent" name="fcontent"/>
            <field column="flastupdatetime" name="flastupdatetime"/>
            <field column="ftime" name="ftime"/>
        </entity>
        
    </document> 
</dataConfig>

5.通过后台管理手动增量更新和通过浏览器手动更新
在这里插入图片描述
2.solr 的全量更新
1.core/conf 目录下的 solrconfig.xml,新增如下配置

<!--添加如下配置 增加resultHandler配置  -->
<requestHandler name="/dataimport" class="org.apache.solr.handler.dataimport.DataImportHandler">
    <lst name="defaults"> 
    <str name="config">data-config.xml</str> 
    </lst> 
</requestHandler>

2 在core/conf 目录下的新建 data-config.xml 文件,新增如下配置

<?xml version="1.0" encoding="UTF-8" ?>

3.修改core/conf 目录下 managed-schema.xml 的文件,新增需要索引的列,示例:

<field name="fid" type="string" indexed="true" stored="true" required="true" multiValued="false" /> 
    <field name="fpic" type="string" indexed="true" stored="true"  multiValued="false" /> 
    <field name="ftitle" type="string" indexed="true" stored="true" required="true" multiValued="false" /> 
    <field name="fauthor" type="string" indexed="true" stored="true"  multiValued="false" /> 
    <field name="ftime" type="string" indexed="true" stored="true"  multiValued="false" /> 
    <field name="fdesc" type="string" indexed="true" stored="true"  multiValued="false" /> 
    <field name="fcontent" type="string" indexed="true" stored="true"  multiValued="false" /> 
    <field name="flastupdatetime" type="text_general" indexed="true" stored="true" required="true" multiValued="false" />

在这里插入图片描述

Solr 的全量更新与增量更新 Solr 的全量更新与增量更新 1.全量更新 全量,这个很好理解。就是每天定时(避开业务高峰期)或者周期性全量把数据从一个地方拷贝到另外一个地方; 全量的话,可以采用直接全部覆盖(使用“新”数据覆盖“旧”数据);或者走更新逻辑(覆盖前判断下,如果新旧不一致,就更新); 这里面有一个隐藏的问题:如果采用异步写,主数据物理删除了,怎么直接通过全量数据同步?这就需要借助一些中间操作日志文件,或者其他手段,把这些“看不到”的数据记录起来。 2.增量更新 增量的基础是全量,就是你要使用某种方式先把全量数据拷贝过来,然 阅读详情

相关推荐

PostgreSQL 中如何实现数据的增量更新和全量更新的平衡?

在数据库管理中,数据的更新操作是常见的任务。对于大型数据集或高并发的系统,选择合适的更新策略至关重要。增量更新和全量更新是两种常见的数据更新方式,如何在 PostgreSQL 中平衡这两种更新方式以确保数据的一致性、性能和可靠性是一个值得深入探讨的问题。

技术笔记 2012

solr全量更新和增量更新,定时增量更新详解

这里写自定义目录标题一、全量更新(1)什么是全量更新?(2)全量更新的配置【1】核心目录下创建一个data-config.xml文件:【2】核心的conf文件夹下的solrconfig.xml文件,在第一个requestHandler标签上面添加:【3】核心的conf文件夹下的managed-schema文件,在第一个field标签上面添加:【4】到solr后台管理页面,选择全量更新的选项,点击Execute二、增量更新(1)什么是增量更新?(2)为什么需要增量更新?(3)增量更新的配置【1】首先要弄懂几个

JavadeSon的博客 3857

详细解说solr全量更新和增量更新

出现背景: 数据如果保留多份,就会存在一致性问题,就需要同步,同步分为两大类:全量和增量 目的:更新页面显示内容信息。 同步更新方式: 全量更新和增量更新 全量: 全量,这个很好理解。就是每天定时(避开任务高峰期)或者周期性全量把数据从一个地方拷贝到另外一个地方; 全量的话,可以采用直接全部覆盖(使用“新”数据覆盖“旧”数据);或者走更新逻辑(覆盖前判断下,如果新旧不一致,就更新); 这里面有一个隐藏的问题:如果采用异步写,主数据物理删除了,怎么直接通过全量数据同步?这就需要借助一些中间操作日志文件,或者其

T_4396的博客 3518

Solr全量更新和增量更新

Solr全量更新和增量更新 1.什么是全量更新 数据库中的数据—》solr缓存中 就是把数据库中的所有数据通过solr客户端中 full-import 就可以做全量更新了 需要注意的就,在做全量更新之前,需要clean一下,把solr之前的缓存数据都删掉 2.什么是增量更新呢 1.怎么用呢,首先你得搞得这些重要的属性 <!-- transformer 格式转化:HTMLStripTransformer 索引中忽略HTML标签 ---> <!-- query:查询数据库表

qq_44737039的博客 408

Python数据分析案例——宏观经济指标与沪深指数实证研究分析

沪深300指数与宏观经济指标关联性研究:2015-2024实证分析 摘要:本文基于2015-2024年月度数据,采用多元回归方法分析宏观经济指标对沪深300指数的影响。研究发现,市场情绪(SEN)、美国利率(STY)、美元指数(DXY)、狭义货币供应量(M1)和CPI对指数具有显著解释力(P<0.05),而GDP、LPR等传统指标影响不显著。模型解释力达62%(R²=0.62),表明A股短期走势更受资金流动、投资者心理和国际金融条件驱动。研究为投资者提供了除基本面外的市场预判指标,建议关注M1增速、美

weixin_50902344的博客 1404

图解5G HARQ-ACK反馈:从DCI解析到PUCCH发送的完整数据流

本文详细解析了5G通信系统中HARQ-ACK反馈机制的完整流程,从DCI解码到PUCCH发送的实战指南。重点介绍了HARQ-ACK码本生成、DCI关键参数解读以及PUCCH资源映射等核心技术环节,帮助工程师深入理解5G NR中的数据传输可靠性保障机制。

weixin_27722377的博客 396

solr全量更新和增量更新以及定时增量更新详解

文章目录一、全量更新(1)什么是全量更新?(2)全量更新怎么用?二、增量更新(1)什么是增量更新?(2)为什么需要增量更新?(3)增量更新的配置三、定时增量更新(1)什么是定时增量更新?(2)定时增量更新的配置 我使用的是solr7.7.2,这篇博客的内容是我看到网上其他人的文章和自己的多次试验的总结和见解,内容都比较通俗易懂,同时也有太多不足之处,希望大佬看到可以指出。 一、全量更新 (1)什么是全量更新? 将数据库的数据导入到solr,就是数据更新,有两种更新方式,一种是全量更新,一种是增量更新。全量更

GX的博客 2559

【实战指南】RF-DETR目标检测全流程:从数据准备到工业部署

本文详细介绍了RF-DETR目标检测模型的全流程应用,从数据准备、模型训练到工业部署。RF-DETR作为基于Transformer的先进模型,在COCO基准测试中表现优异,推理速度超越YOLOv8,特别适合工业场景。文章还提供了数据标注、COCO格式转换、超参数调优及边缘设备部署的实用技巧,帮助开发者高效实现目标检测任务。

weixin_29081101的博客 421

solr全量更新和增量更新

1、全量更新 数据库的数据导入到 solr缓存库就是更新 full-import:全量更新,意思是重新把全部数据从数据库导入,一般会先删除现有的,再进行导入,所以需要勾选Clean清除本地 2、增量更新 2.1.对应全量更新,增量更新新增的 <!-- transformer 格式转化:HTMLStripTransformer 索引中忽略HTML标签 ---> <!-- query:查询数据库表符合记录数据 ---> <!-- deltaQuery:增

zeit浅白的博客 941

【华为OD机试】贪吃蛇(python, java, c++, js)

贪吃蛇是一个经典游戏,蛇的身体由若干方格连接而成,身体随蛇头移动。蛇头触碰到食物时,蛇的长度会增加一格。蛇头和身体的任一方格或者游戏版图边界碰撞时,游戏结束。 下面让我们来完成贪吃蛇游戏的模拟。 给定一个NM的数组arr,代表NM个方格组成的版图,贪吃蛇每次移动一个方格。 若arr[i][j] == H,表示该方格为贪吃蛇的起始位置; 若arr[i][j] == F,表示该方格为食物, 若arr[i][j] == E,表示该方格为空格。 贪吃蛇初始长度为1,初始移动方向为向左。

A_D_I_D_A_S的博客 541

笔试题-2023-思特威-数字电路设计(CIS)【纯净题目版】

10 笔试题-2023-思特威-数字电路设计(CIS)【纯净题目版】

w0shishabi的博客 1471

solr全量更新和增量更新的理解

1、全量更新 我们在solr页面将数据库中的数据全部导入到solr中的方式就叫做solr的全量更新 full-import:英文意思为全量更新,此选项的作用即使将数据库中的数据全部导入到solr中,当我们现在的数据量较小时,solr的全量更新是很快的,可是如果我们在大数据量的情况下,还需要进行全量更新是不是会使得工作量变得十分的大呢? 2、增量更新 配置 在全量更新的配置基础上需要增加配置字段解释: 1<!-- transformer 格式转化:HTMLStripTransformer 索引

Systemoutprintl的博客 1740

OSCP-Challenge 2 - Relia

使用andrea:PasswordPassword_6登录远程桌面,在c盘根目录下发现一个计划任务的ps,文件,修改执行的exe位木马,获取到milana用户的反弹shell。,发现开放了一个8000端口,但是我们外部是访问不到的,它对应的页面是/var/www/internal/,这个目录下的文件我们是可以访问的,把这个文件打个包放到本地分析下。其中数据的可以直接连接mssql,但是端口是49965,不过在数据库中没发现什么可用的信息,但是可以修改密码直接进后台,这个可以先放放。

羽的博客 7763

solr全量更新和增量更新!

直接进入主题 一、solr的全量更新 1.core/conf 目录下的 solrconfig.xml,新增如下配置 <!--添加如下配置 增加resultHandler配置 --> <requestHandler name="/dataimport" class="org.apache.solr.handler.dataimport.DataImportHandler"> <lst name="defaults"> <str name="conf

weixin_46945684的博客 300

Python爬虫 汽车之家 车型销量--参数分析与实现

【代码】Python爬虫 汽车之家 车型销量--参数分析与实现。

2201_76125393的博客 850

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

solr全量更新与增量更新

1 全量更新,就是所有参数都传给后台,全部入库,简单来说就是全部更新。 2 增量更新,则是传一部分参数,然后更新传递的参数,只更新一部分

qq_43776748的博客 360

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

solr mysql增量导入_Solr全量与增量导入

Solr Full Import全量导入所谓全量索引一般指的是每次从数据库中读取需要导入的全部数据,然后提交到Solr Server,最后删除指定core的所有索引数据进行重建。全量导入一般在数据首次导入或者备份数据恢复时执行。以下为一个多表查询的全量导入案例:ER图:ER图根据如上ER图,我们在数据库中执行如下SQL建表并插入测试数据。use solr;create table feature(...

weixin_30647853的博客 416

SIMATIC S7-1200, S7-1500 PID 控制[手册]

SIMATIC S7-1200, S7-1500 PID 控制[手册]

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

solr6 mysql增量更新_solr 的全量更新与增量更新

1.solr 的全量更新1.core/conf 目录下的 solrconfig.xml,新增如下配置data-config.xml2 在core/conf 目录下的新建 data-config.xml 文件,新增如下配置driver="com.mysql.jdbc.Driver"url="jdbc:mysql://192.168.2.10:3306/xt"user="root"password="...

weixin_39876514的博客 143

sorl增量更新和全量更新粗略配置

全量更新 1.在sorlconfig.xml配置data-config.xml <requestHandler name="/dataimport" class="solr.DataImportHandler"> <lst name="defaults"> <str name="config">data-config.xml</str> </lst> </requestHandler&

xyjcsdn123的博客 270

solr和数据库之数据同步问题

初始化solr索引时,做全量复制。 数据更新同步,做增量复制(增删改)

Seven71111的博客 887

Linux下安装使用Solr

1、首先下载Solr、mmseg4j分词包、tomcat并解压,这用google、百度都可以搜索得到下载地址。 2、因为要使用到中文分词,所以要设置编码,进入tomcat安装目录,使用vi修改confserver.xml配置 增加 URIEncoding="UTF-8"设置编码为utf-8。  3、将下载的solr包下面dist文件夹中的apache-solr-*.war 拷贝到 to

dengsilinming的专栏 925

Solr使用访问地址控制索引的,删除、创建

启动Solr,删除全部索引数据: http://localhost:8080/solr/update/?stream.body=<delete><query>*:*</query></delete>&stream.contentType=text/xml;charset=utf-8&commit=true 停掉Solr,检查下是不...

weixin_30764137的博客 156
上一篇: 数据库三大范式的理解
下一篇: Spring Boot 源码分析
若安逸
博客等级 码龄6年 256粉丝 6原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值