第四章solr配置IK中文分词

solr cloud系列-IK中文分词器 最近一段时间项目中查询需要支持中文分词和拼音分词,在网上找了不少资料,现在把做的过程整理出来,以后用到就可以直接看,下面直接上干活。 solr cloud6.1.0设置IK分词器: 准备资料:ik-analyzer-solr5-5.x.jar (这个jar是在网上找的 solr的6.x版本也能用)                  IKAnalyzer.cfg.xml  (IK扩展分 阅读详情

简介

本章节只讲述IK分词的配置方式,拼音分词在这里就不再累述

准备

solr7.1.0已经安装好并可以正常启动(请看:第一章solr安装)

IK分词器下载http://files.cnblogs.com/files/wander1129/ikanalyzer-solr6.5.zip

拼音分词器下载http://files.cnblogs.com/files/wander1129/ikanalyzer-solr6.5.zip

我的solr配置情况如下:
web启动使用tomcat
%TOMCAT%/webapps/solr

solr_home地址为:D:\mnt\solr_home
core地址为
D:\mnt\solr_home\new_core

IK分词配置

IK分文件组成:
ext.dic为扩展字典
stopword.dic为停止词字典
IKAnalyzer.cfg.xml为配置文件
solr-analyzer-ik-5.1.0.jar ik-analyzer-solr5-5.x.jar为分词jar包。

  1. 配置jar:解压后的两个jar丢到%TOMCAT%/webapps/solr/WEB-INF/lib下面
  2. 更改solr_home下的core配置
    new_core\conf\managed-schema配置文件
<!-- 我添加的IK分词 -->
<fieldType name="text_ik" class="solr.TextField">
        <analyzer type="index">
            <tokenizer class="org.apache.lucene.analysis.ik.IKTokenizerFactory" useSmart="true"/>
        </analyzer>
        <analyzer type="query">
            <tokenizer class="org.apache.lucene.analysis.ik.IKTokenizerFactory" useSmart="true"/>
        </analyzer>
</fieldType>

3 重启tomcat测试是否成功
这里写图片描述
如图,已经和其他fieldType的分词结果不同了,分词结果可以看到词组出现而不是单个字
注:fieldType类型text_ik为IK的分词类型

拼音分词配置

原理同上
1. 解压后的两个jar丢到%TOMCAT%/webapps/solr/WEB-INF/lib下面
2. pinyin分词器:更改new_core\conf\managed-schema配置文件,添加如下分词fieldType类型

<fieldType name="text_pinyin" class="solr.TextField" positionIncrementGap="0">
    <analyzer type="index">
        <tokenizer class="org.apache.lucene.analysis.ik.IKTokenizerFactory"/>
        <filter class="com.shentong.search.analyzers.PinyinTransformTokenFilterFactory" minTermLenght="2" />
        <filter class="com.shentong.search.analyzers.PinyinNGramTokenFilterFactory" minGram="1" maxGram="20" />
    </analyzer>
    <analyzer type="query">
        <tokenizer class="org.apache.lucene.analysis.ik.IKTokenizerFactory"/>
        <filter class="com.shentong.search.analyzers.PinyinTransformTokenFilterFactory" minTermLenght="2" />
        <filter class="com.shentong.search.analyzers.PinyinNGramTokenFilterFactory" minGram="1" maxGram="20" />
    </analyzer>
</fieldType>

3重启测试,这里就不粘贴了方法同上

solr6.0中IK分词需要的资料 solr6.0需要的IK分词资料,其中包括IK分词的jar和配置文件还有搜狗词库 立即下载

相关推荐

solr所需资源下载(数据导入、分词器、数据库连接jar、配置文件、managed-schema)

包括solr的所有资源文件文件清单如下: IKAnalyzer.cfg.xml ik-analyzer-solr5-5.x.jar solr-analyzer-ik-5.1.0.jar managed-schema mysql-connector-java-5.1.7-bin.jar solrconfig.xml data-config.xml ext.dic stopword.dic

Solr之——配置中文分词IKAnalyzer和拼音分词pinyinAnalyzer

在上一篇博文《CentOS安装与配置Solr6.5》中,我们讲解了如何在CentOS中安装与配置Solr6.5,那接下来我们就一起实现如何在Solr6.5中实现配置中文分词IKAnalyzer和拼音分词pinyinAnalyzer。好了我们直接进入主题。 一、创建Core: 1、首先在solrhome(solrhome的路径和配置见《CentOS安装与配置Solr6.5》 中solr的we

冰河的专栏 4718

solr配置ikanalyzer分词文件以使用说明

solr配置ikanalyzer分词文件以使用说明

solr的使用详解

一、Solr简介 由于搜索引擎功能在门户社区中对提高用户体验有着重在门户社区中涉及大量需要搜索引擎的功能需求,目前在实现搜索引擎的方案上有几种方案可供选择: 基于Lucene自己进行封装实现站内搜索。工作量及扩展性都较大,不采用。 调用Google、Baidu的API实现站内搜索。同第三方搜索引擎绑定太死,无法满足后期业务扩展需要,暂时不采用。 基于Compass...

小流至江河的博客 3241

solr 7.2.1IK分词jar包

solr7.2.1,IK分词jar包,使用Solr进行Ik分词的时候需要使用该jar包

IK分词器,支持solr6.60高版本,支持智能分词和细粒度分词

IK分词器,支持solr6.60高版本,支持智能分词和细粒度分词,经本人测试可以使用的,支持高版本,智能分词用IKCrudeAnalyzer

solr快速上手:配置IK中文分词器(七)

IK中文分词器是一个国人开源的,基于java开发的轻量级中文分词器,能够实现对中文进行自然语言处理,并且支持自定义分词库,IK分词器本身也支持英文和数字的分词,满足中英文混合的业务场景。为什么需要中文分词器?我们可以在solr Analysis中进行分词,采用默认的英文分词器,可以看到中文被切分成了单个汉字,而按照自然语言来讲,我们更希望将其分词为俺中国man,这样本身也符合语言习惯,同时不用单个字分词,也节约了存储空间,所以我们需要更加灵活的中文分词器这种。

55555的博客 3008

Solr:配置IK中文分词器

从IK分词器的官方仓库、GitHub或其他可信来源下载适用于您Solr版本的IK分词器JAR包。确保下载的版本与您的Solr版本兼容。例如,如果您使用的是Solr 8.x版本,应下载对应版本的IK分词器。对于Solr服务的重启方式,请参考您的Solr部署指南或相关文档。至此,Solr已成功配置为使用IK中文分词器处理指定字段的中文文本。如果您的Solr部署结构不同,请确保将JAR文件放置到Solr实例能够加载到类路径的位置。可以根据需要添加或调整IK分词器的其他参数以及后续的分析器组件(如过滤器)。

qq_33240556的博客 1073

三菱CNC数据采集实战:从SDK安装到C#代码调试全流程(附完整资源包)

本文为C#开发者提供了三菱CNC数据采集的完整实战指南。详细介绍了从获取并安装核心A2协议SDK、配置Visual Studio开发环境,到理解COM接口文档、封装C#通信类,并构建具备多设备连接与定时采集功能的WinForms应用程序的全流程。文章重点分享了网络调试、异常处理及性能优化等关键实战经验,帮助开发者高效打通工业自动化数据采集链路。

oauth7security的博客 707

基于Dify构建银行智能客服:从意图识别到多RAG架构的实战解析

本文深入解析了如何利用Dify平台构建银行智能客服系统。从传统客服痛点出发,详细阐述了基于意图识别精准分类用户需求,并通过多RAG架构解决知识混淆问题,实现高效、准确的业务响应。文章重点介绍了结合工具调用实现业务流程自动化,并强调了数据本地化部署、内容安全过滤等银行级安全合规实践,为金融行业AI应用提供了实战指南。

yog99的博客 926

solr5.X的几个重要配置模板

solr5.X版本里有几个比较重要的配置文件, 如data-config.xml、dataimport.properties、managed-schema.txt

dandan2zhuzhu的专栏 1336

魔兽世界怀旧服宏命令全解析:从自动换装到智能判定,老玩家才知道的黑科技

本文全面解析魔兽世界怀旧服宏命令的高级应用,从自动换装到智能判定,揭秘老玩家专属的黑科技技巧。深入探讨怀旧服特有的宏命令机制,包括施法队列、装备切换系统和职业专属技巧,帮助玩家在经典旧世版本中提升战斗效率。

weixin_29230865的博客 724

solr安装及ik中文分词器配置

Solr 是Apache 下的一个顶级开源项目,采用 Java 开发,它是基于 Lucene 的全文搜索服务器。Solr 提供了比 Lucene 更为丰富的查询语句,同时实现了可配置、可扩展,并对索引、搜索性能进行了优化Solr 可以独立运行,运行在 Jetty、Tomact 等这些 Servlet 容器中,Solr 索引的实现方式很简答,用Post 方法向 Solr 服务器发送一些描述 Field 及其内容的 XML 文档,Solr 根据XML 文档添加、删除、更新索引。

专注于 Java 后端架构、微服务、分布式、前端及 AI 领域的技术分享,是开发者获取硬核知识、交流实战经验的专业博客。 1407

探索robotics-toolbox-python:从基础安装到高级机器人运动学应用

本文详细介绍了robotics-toolbox-python工具箱,从基础安装、环境配置到机器人运动学与动力学的核心应用。通过D-H参数、URDF导入和内置模型三种方式快速构建机器人模型,并演示了正逆运动学计算、关节空间与任务空间轨迹规划以及三维可视化仿真。该工具箱极大地简化了机器人算法开发流程,是进行机器人学研究和应用实践的强大工具。

i1j2k的博客 496

YOLOv8人工智能与深度学习——强化学习

本文介绍了将YOLOv8目标检测模型与强化学习结合的方法。主要应用包括自适应目标检测(动态调整检测参数)、主动学习(智能选择标注样本)和多目标跟踪优化。实现方案采用深度Q网络策略,通过定义状态表示、动作空间和奖励函数,使检测系统能根据环境反馈优化性能。该方法具有自适应优化、资源高效、持续改进等优势,能构建更智能的计算机视觉系统。文章详细说明了强化学习环境的构建、策略网络的实现以及训练过程,并提供了代码示例。

u010117029的博客 259

Solr - 中文分词器IK Analyzer的简介及配置

简介 IK Analyzer 是一个开源的,基于java 语言开发的轻量级的中文分词工具包。它是以开源项目Luence 为应用主体的,结合词典分词和文法分析算法的中文分词组件,IK 实现了简单的分词歧义排除算法,标志着 IK 分词器从单纯的词典分词向模拟语义分词衍化。 作用: 有中文语义分析的效果, 对中文分词效果好. 配置 一、把IKAnalyzer2012FF_u1.jar 添...

江南烟雨却痴缠丶 2164

JumpServer未授权访问漏洞 CVE-2023-42442

JumpServer 是全球首款完全开源的堡垒机, 使用GNU GPL v2.0 开源协议, 是符合4A 的专业运维审计系统。 JumpServer 使用Python / Django 进行开发。2021年1月15日,阿里云应急响应中心监控到开源堡垒机JumpServer发布更新,修复了一处远程命令执行漏洞。由于 JumpServer 某些接口未做授权限制,攻击者可构造恶意请求获取到日志文件获取敏感信息,或者执行相关API操作控制其中所有机器。

holyxp的博客 1420

Solr(四)中文分词及IK库的使用

目录 1. 概述 1.1 分词: 1.2 配置目的 1.3 分词器的选择 2. 分词器的配置 2.1 下载 2.2修改managed-sahma 2.3 把IK的配置入到solr 2.4 重启solr分析 2.5存在问题 3.中文分词如何使用到属性上 3.1 添加一个属性 3.2 添加数据 3.3 查看分词 3.4 查询测试 4. 自定义分词 1. 概述 1.1 分词: 指将一个中文词语拆成若干个词,提供搜索引擎进行查找,比如说:北京大学 是一个词那么进行拆分可以...

java_shm的专栏 1929

小米15修复“NV损坏” 去除主板校验电阻步骤解析与图示

小米15系列将搭载骁龙8至尊版处理器,采用台积电3nm工艺。文章分析了手机出现"NV损坏"故障的表现及修复方法,包括通信异常、系统启动问题等典型症状,并介绍了去除主板校验电阻和刷写工程固件两种修复方案。重点讲解了去除主板电阻后刷写QCN文件的操作流程,强调在维修过程中需要结合分析与思考。适用于小米15系列特定机型(24129PN74G/I/C)的硬件修复。

小马哥的专栏 311

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

solr8.2 配置中文分词器 ik-analyzer-solr8

一、下载安装Apache Solr 8.2.0 下载地址:http://lucene.apache.org/solr/downloads.html 解压缩: 二、启动solr服务 进入solr-8.2.0/bin目录: 输入cmd回车 控制台输入以下命令: // 启动服务 .\solr start // 关闭服务 .\solr stop -all // 重启服务 sol...

小匠心的博客 2223

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

Solr集成IK中文分词器实战指南

本文提供了Solr集成IK中文分词器的完整实战指南。针对Solr自带分词器处理中文效果差的问题,详细讲解了如何下载部署IK分词器、修改Schema配置、重启验证以及应用到实际字段。通过集成IK中文分词器,可实现从单字切割到语义理解的跨越,显著提升中文搜索的准确性和用户体验。

v6b7n8m9q0的博客 850

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

Solr安装IK中文分词器

我们才Schema中重新添加字段,并选择字段对应的type就可以了,我们在dataimport中将查询出来的数据对应到school_name就可以。由于solr自带的分词器无法将中文根据语义分词,需要引入中文分词器IKAnalyzer。由于我在windows上没有看到具体的重启命令,所以这里我我是先关闭再启动。我们直接下载jar包就可以了。

陆漫漫的博客 849

【全】在 Docker 的Solr容器中安装 IK 中文分词器

这些坑我已经帮你踩过了: 现在大家能够在网上(需要禾斗学上网)下载的IK分词器版本已经非常老了,而Solr更新还是非常快的,所以会出现版本不兼容的问题,不然即使成功装上了,也无法进行分词,Solr会报异常:

Nickkker的博客 1103

【Solr】之中文分词及IK库的安装使用-4

中文分词在solr里面是没有默认开启的,需要自己配置一个中文分词器。 目前可用的分词器有smartcn,IK,Jeasy,庖丁。其实主要是两种,一种是基于中科院ICTCLAS的隐式马尔科夫HMM算法的中文分词器,如smartcn,ictclas4j,优点是分词准确度高,缺点是不能使用用户自定义词库;另一种是基于最大匹配的分词器,如IK ,Jeasy,庖丁,优点是可以自定义词库,增加新词,缺点是分出来的垃圾词较多。各有优缺点。 主流还是ik,可以扩展自己的词库,非常方便,加入一些热搜词,主题词,对于搜索

1458

linux系统搭建solr7服务及配置IK中文分词器(支持最新solr8)

目录 solr搭建步骤--环境准备 solr搭建步骤--安装 solr启动 IK中文分词器 IK中文分词器的添加,下载地址点击-->:ik-analyzer-solr7(支持solr8) 导入数据库数据到solr ​ solr搭建步骤--环境准备 输入:java -version 检查是否已安装jdk环境 solr搭建步骤--安装 将solr和tomcat安装包上传到/...

weixin_42133396的博客 1288
上一篇: SpringCloud第九篇-服务注册(consul)
下一篇: ELK第一篇:Elasticsearch安装
牧竹子
博客等级 码龄17年 572粉丝 233原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值