Solr下使用IK-Analyzer实现中文分词器的配置详情

Solr配置中文分词器ik-analyzer 阅读详情




《 Solr中使用IK-Analyzer实现中文分词器的配置详情 》




关于IK-Analyzer:
IKAnalyzer是一个开源的,基于java语言开发的轻量级的中文分词工具包。
采用了特有的“正向迭代最细粒度切分算法”,具有60万字/秒的高速处理能力。
采用了多子处理器分析模式,支持:英文字母(IP地址、Email、URL)、数字(日期,常用中文数量词,罗马数字,科学计数法),中文词汇(姓名、地名处理)等分词处理。



准备IK-Analyzer中文分词工具包,
这儿加个下载地址:IK-Analyzer 分词器所需要的配置文件、扩展词典及停用词词典 完整包下载


下载完成后将IK-Analyzer上传到Linux服务器,输入命令 " unzip IKAnalyzer.zip " ,如下图:




解压完成后,将IK-Analyzer中文分词器依赖的Jar包添加到solr工程并重命名,
输入 " cp ik-analyzer.jar /home/www/solr/solr/WEB-INF/lib/IKAnalyzer.jar -r "

如下图:




先创建 classes目录,输入命令 " mkdir /home/www/solr/solr/WEB-INF/classes -p "
将 IKAnalyzer 分词器所需要的配置文件、扩展词典及停用词词典复制到 solr 工程目录下,
输入命令 " cp IKAnalyzer.cfg.xml mydict.dic ext_stopword.dic /home/www/solr/solr/WEB-INF/classes "

如下图:




注:扩展词典及停用词词典的字符集必须是utf-8!!!
在Solr的 schema.xml 配置文件中新增配置fieldType节点,
输入命令 " vi /home/www/solr/solr/home/solr/collection1/conf/schema.xml "
新增内容:

作用:加载IK-Analyzer中文分词器工具


<!-- IK-Analyzer -->
<fieldType name="my_first_ik" class="solr.TextField">
  <analyzer class="org.wltea.analyzer.lucene.IKAnalyzer"/>

</fieldType>


如下图:




新增业务字段;
加入如下实例内容:


<!-- project of myintro fields -->
<field name="my_name" type="my_first_ik" indexed="true" stored="true"/>
<field name="my_age"  type="my_first_ik" indexed="true" stored="true"/>
<field name="my_hobby"  type="my_first_ik" indexed="true" stored="false"/>


<field name="my_copy_alls" type="my_first_ik" indexed="true" stored="false" multiValued="true"/>
<copyField source="my_name" dest="my_copy_alls"/>
<copyField source="my_age" dest="my_copy_alls"/>

<copyField source="my_hobby" dest="my_copy_alls"/>


如下图:




业务字段配置好后,重启Tomcat服务,就可以在solr的控制台中看到自己配置的业务字段名了,如下图:




IK-Analyzer中文分词器配置完成后,复制一句话进去进行测试,测试结果如下图,说明我们的IK-Analyzer的中文分词器就配置成功了,如下图:





上一篇关于 《 Linux下Solr4.10.4搜索引擎的安装与部署图文详解 》










中文分析器IK-Analyzer的使用 中文分析器IK-Analyzer的使用 在Solr中默认是没有中文分析器的,需要手工配置,配置一个FieldType,在FieldType中指定中文分析器。另外,Solr中的字段必须先定义,后使用。 下面分步骤进行操作 第一步:将IK-Analyzer的压缩包上传到solr服务器上。如下所示。 [root@solr-server software]# ll 总用量 335576 drwxr-xr-... 阅读详情

相关推荐

ik-analyzer-solr-master中文分词器源码解析与实战

建议索引阶段用提高召回率,查询阶段用true减少噪声。

weixin_42593701的博客 8237

springboot整合solr与IK Analyzer(中文分词器)

具体tomcat配置solr 安装 在我的上一篇文章: https://blog.youkuaiyun.com/weixin_40787926/article/details/89474329 一、solr创建core: 1、首先在solrhome中创建solrDemo目录; (solrhome目录为:复制solr/server/solr/* 所有文件到tomcat/solrhome目录,用到创建sol...

weixin_40787926的博客 3549

IK Analyzer 2012FF_hf1 Solr4.x中文分词器实战课程

在现代信息技术的浪潮中,中文分词技术是自然语言处理领域的基石之一,尤其在搜索引擎、文本挖掘、机器翻译等应用场景中,其重要性不言而喻。IK Analyzer作为一款开源的中文分词器,以其高效的分词速度、丰富的词库、良好的扩展性,在业界获得了广泛的应用和认可。本章将从IK Analyzer的基本概念出发,探究其作为分词工具在信息处理中的核心价值与应用前景,为接下来深入探索其版本特性、集成优化、关键组件解析以及自定义扩展等多方面内容奠定基础。

weixin_27645199的博客 874

Solr安装与IK Analyzer(中文分词器)

一、Solr简介 二、solr安装 三、solr基础 四、IK Analyzer(中文分词器)   一、Solr简介 Solr是Apache下的一个顶级开源项目,采用Java开发,它是基于Lucene的全文搜索服务器。Solr提供了比Lucene更为丰富的查询语言,同时实现了可配置、可扩展,并对索引、搜索性能进行了优化。 Solr可以独立运行,运行在Jetty、Tomcat等这些Se...

u010634288的博客 7979

ik-analyzer-solr:用于solr 7.x-8.x的ik-analyzer

ik-analyzer-solr 用于solr 7.x-8.x的ik-analyzer 简介 适应最新版本的solr 7&8; 扩展IK首词库: 分词工具 词库中词的数量 最后更新时间 我知道 27.5万 2012年 毫米段 15.7万 2017年 字 64.2万 2014年 界坝 58.4万 2012年 ces 16.6万 2018年 搜词库 115.2万 2020年 将以上词库进行整理后约187.1万条词汇; 添加动态加载词典表功能,在不需要重启solr服务的情况下加载补充的词典。 关闭默认主词典请在IKAnalyzer.cfg.xml配置文件中设置use_main_dict为fals

VMware Workstation Pro必备技巧:5分钟搞定Ubuntu虚拟机磁盘瘦身(附常见错误解决)

本文详细介绍了如何为VMware Workstation Pro中的Ubuntu虚拟机进行磁盘瘦身,解决.vmdk文件只增不减的问题。通过清理系统垃圾、使用零填充空闲空间,并利用vmware-toolbox-cmd或vmware-vdiskmanager工具进行压缩,可有效回收被无效占用的磁盘空间。文章还提供了常见错误解决方案和预防性维护建议,帮助用户高效管理虚拟机存储。

sea99的博客 297

Solr配置ik-analyzer中文分词器

Solr配置ik-analyzer中文分词器 参考链接: https://github.com/magese/ik-analyzer-solr 1. 下载ik-analyzer的jar包: https://search.maven.org/remotecontent?filepath=com/github/magese/ik-analyzer/8.1.0/ik-analyzer-8.1.0.jar...

程序人生 1024

CH341的I2C流模式(StreamI2C)到底怎么用?从EEPROM读写到自定义设备,一篇讲清参数配置逻辑

本文详细解析了CH341的I2C流模式(StreamI2C)的使用方法,从EEPROM读写到自定义设备的参数配置逻辑。通过深入分析I2C协议基础、StreamI2C参数映射关系及典型设备配置示例,帮助开发者快速掌握StreamI2C的应用技巧,解决实际开发中的常见问题。

weixin_30932215的博客 449

solr8.2 配置中文分词器 ik-analyzer-solr8

一、下载安装Apache Solr 8.2.0 下载地址:http://lucene.apache.org/solr/downloads.html 解压缩: 二、启动solr服务 进入solr-8.2.0/bin目录: 输入cmd回车 控制台输入以下命令: // 启动服务 .\solr start // 关闭服务 .\solr stop -all // 重启服务 sol...

小匠心的博客 2223

PyMiMi实战指南:midas_api配置与连接测试详解

本文详细介绍了PyMiMi库中midas_api的配置与连接测试全流程。从环境准备、API密钥获取,到核心的url_cfg配置函数使用,再到通过test_url进行连接验证,提供了清晰的步骤和代码示例。文章重点解析了配置原理、常见错误排查方法(如401错误、连接超时),并强调了API密钥的安全性管理,帮助用户稳固建立Python与Midas Civil NX之间的自动化通信桥梁。

weixin_29044713的博客 699

LLM之RAG实战(五十四)| 复杂文档处理RAG框架:Ragflow

RAGFlow 是一种结合了检索增强(Retrieval-Augmented Generation,RAG)与流程控制(Flow)的人工智能技术架构。它通过检索外部知识库中的信息,结合自然语言生成技术,为用户提供更准确、更丰富的回答。同时,它还引入了流程控制机制,能够根据任务需求动态调整信息检索和生成的流程,从而更好地完成复杂的任务。RAGFlow 的核心优势在于将检索和生成相结合,打破了传统生成模型仅依赖内部参数进行文本生成的局限。

wshzd的博客 1067

Solr - 中文分词器IK Analyzer的简介及配置

简介 IK Analyzer 是一个开源的,基于java 语言开发的轻量级的中文分词工具包。它是以开源项目Luence 为应用主体的,结合词典分词和文法分析算法的中文分词组件,IK 实现了简单的分词歧义排除算法,标志着 IK 分词器从单纯的词典分词向模拟语义分词衍化。 作用: 有中文语义分析的效果, 对中文分词效果好. 配置 一、把IKAnalyzer2012FF_u1.jar 添...

江南烟雨却痴缠丶 2170

InstallShield 打包 自定义安装依赖环境

用InstallShield2020打包.NetFramework4.5程序,程序需要集成Access数据库,必须安装AccessDatabaseEngine引擎,而InstallShield中自带的依赖项不包含该项,所以自定义集成了该依赖项。

zhaoziyu2020的博客 1128

Solr集成IK中文分词器实战指南

本文提供了Solr集成IK中文分词器的完整实战指南。针对Solr自带分词器处理中文效果差的问题,详细讲解了如何下载部署IK分词器、修改Schema配置、重启验证以及应用到实际字段。通过集成IK中文分词器,可实现从单字切割到语义理解的跨越,显著提升中文搜索的准确性和用户体验。

v6b7n8m9q0的博客 850

【技能】OpenClaw Memory 与 MemOS 两种 AI 记忆方案深度解析

摘要:本文对比了两种AI记忆系统方案。OpenClaw Memory是轻量级记忆助手,内置SQLite存储,支持语义搜索,部署简单成本低,适合日常对话记忆需求。MemOS是自学习系统,通过Neo4j和Qdrant实现技能自进化,但需部署4套服务,门槛高成本大。建议普通用户选择OpenClaw Memory,技术玩家可逐步尝试MemOS。两种方案各具优势,需根据实际需求选择。

海兰 198

【GEOS-Chem模拟教程第二期上】生物质燃烧排放 GFED4 数据配置

生物质燃烧排放 GFED4 数据配置

WW、forever的博客 1301

solr8.2 环境搭建 配置中文分词器 ik-analyzer-solr8 详细步骤

一、下载安装Apache Solr 8.2.0 下载地址:http://lucene.apache.org/solr/downloads.html 因为是部署部署在windows系统上,所以下载zip压缩包即可。 下载完成后解压出来。 二、启动solr服务 进入solr-7.3.0/bin目录: Shift+右键 在此处打开命令...

weixin_30251829的博客 1563

新手Solr8与ik_analyzer_solr分词器的完整采坑搭建(单机版)

目录 服务安装并启动: 新建core 配置ik-analyzer-solr中文分词器 源链接:https://my.oschina.net/woniuyi/blog/3072599 服务安装并启动: 目前为止,最新版为solr 8.1,下载地址:http://lucene.apache.org/solr/downloads.html 解压上传至服务器目录:/opt/module...

huang__yuan的博客 1398

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

Solr:配置IK中文分词器

从IK分词器的官方仓库、GitHub或其他可信来源下载适用于您Solr版本的IK分词器JAR包。确保下载的版本与您的Solr版本兼容。例如,如果您使用的是Solr 8.x版本,应下载对应版本的IK分词器。对于Solr服务的重启方式,请参考您的Solr部署指南或相关文档。至此,Solr已成功配置为使用IK中文分词器处理指定字段的中文文本。如果您的Solr部署结构不同,请确保将JAR文件放置到Solr实例能够加载到类路径的位置。可以根据需要添加或调整IK分词器的其他参数以及后续的分析器组件(如过滤器)。

qq_33240556的博客 1073

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

Solr-8.1.1 + IK-analyzer-8.1.0教程

一、Solr简介 Apache Solr是一个功能强大的搜索服务器,它支持REST风格API。Solr是基于Lucene的,Lucene 支持强大的匹配能力,如短语,通配符,连接,分组和更多不同的数据类型。它使用 Apache Zookeeper特别针对高流量进行优化。 二、工具 Postman:发送post请求的http客户端,官网地址:https://www.getpos...

Liucheng417的博客 2252

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

solr配置中文解析器-IK Analyzer详解

solr中的IK Analyzer配置:

1752

solr6.0配置中文分词器IK Analyzer

solr6.0中进行中文分词器IKAnalyzer的配置和solr低版本中最大不同点在于IKAnalyzer中jar包的引用。一般的IK分词jar包都是不能用的,因为IK分词中传统的jar不支持solr6.0这个高版本的,所以就会发送运行错误的界面。下面就来介绍一下solr6.0中中文分词器IKAnalyzer的配置。 想学习分布式、微服务、JVM、多线程、架构、java、python...

林老师带你学编程 2万+

全文搜索引擎 solr------(二)solr8 两种中文分词器配置

前言 啥也不想说,脑海里只有羊驼,solr版本和中文分词器版本很难兼容,maven 依赖也没有,还的自己添加。 下载分词器jar包 先吐槽一下: IKAnalyzer2012FF_u1.jar 和 IKAnalyzer 3.2.8 这样的都不行,各种报错让你怀疑人生,就是因为版本太旧了,我们用这个 下载地址:6.5高版本分词器下载 解压后目录 包括两个jar 包和三个文件。 jar 包放到这个位...

xudong的博客 1873

solr7.3 环境搭建 配置中文分词器 ik-analyzer-solr7 详细步骤

一、下载安装Apache Solr 7.3.0 下载地址:http://www.apache.org/dyn/closer.lua/lucene/solr/7.3.0 因为是部署部署在windows系统上,所以下载zip压缩包即可。 下载完成后解压出来。 二、启动solr服务 进入solr-7.3.0/bin目录: Shift+右键 在此处打开命...

Magese的博客 7811

Solr 7.7.3 Windows版安装部署并添加IK中文分词器

登录solr官网,选择DOWNLOAD菜单,找到solr7.7.3安装包下载链接。https://www.apache.org/dyn/closer.lua/lucene/solr/7.7.3/solr-7.7.3.zip?action=download 解压solr-7.7.3.zip到部署目录,进入\solr-7.7.3\bin\,在命令行下执行solr.cmd start即可开启solr,执行solr.cmd stop –all即可关闭solr。 Solr启动后,在浏览器输入http://127

u010001074的博客 966
上一篇: HTTP Status 500 – Internal Server Error 的解决办法:
下一篇: Linux下Solr索引库的维护
TechBro华仔
TechBro华仔 优质创作者: Java技术领域 优质创作者: Java技术领域 领域专家: 后端开发技术领域 领域专家: 后端开发技术领域
博客等级 码龄11年 5万+粉丝 430原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

TechBro华仔

日拱一卒无有尽,功不唐捐终入海

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值