Lucene Field.Store解析

构建高效文档的策略与实践
本文详细介绍了如何使用特定的存储策略(如压缩保存、是否保存原数据等)来构建高质量的文档,包括展台ID、名称、图片、展会信息等关键元素。通过分析字段的存储方式和对搜索能力的影响,提供了优化文档存储与检索的实用指南。
Store
      COMPRESS:压缩保存。用于长文本或二进制数据
      YES:保存

      NO:不保存

// 获取新闻的Id,Title,ShortDescription, Tags构建Document
var doc = new Document();
doc.Add(new Field("BoothId", boothItem.Id.ToString(), Field.Store.YES, Field.Index.ANALYZED));            //展台id
doc.Add(new Field("BoothName", boothItem.DisplayName, Field.Store.YES, Field.Index.ANALYZED));   //展台名称
doc.Add(new Field("BoothPicUrl", boothPicUrl,Field.Store.YES,Field.Index.ANALYZED));                            //展台图片
doc.Add(new Field("ExhibitionId", exid, Field.Store.YES, Field.Index.ANALYZED));                                        //展会id
doc.Add(new Field("ExhibitionName", exname, Field.Store.YES, Field.Index.ANALYZED));                          //展会名称
doc.Add(new Field("ExhibitionStartDate", exstartdate, Field.Store.YES, Field.Index.ANALYZED));             //展会开始时间
doc.Add(new Field("ExhibitionEndDate", exenddate, Field.Store.YES, Field.Index.ANALYZED));                //展会结束时间
doc.Add(new Field("ExhibitionType", firstTypeName, Field.Store.YES, Field.Index.ANALYZED));               //展会类型
IndexWriter.AddDocument(doc);
这里整理一下
Field.Store
     :YES 可以搜索,保存原值
      :NO  可以搜索,不保存原值
     :COMPRESS 可以搜索,压缩保存原值

这里需要注意的是在实际使用中,并不建议使用COMPRESS,存在压缩和解压过程,效率低下,对于大文本尽量使用NO
还有一点就是是否可被搜索与Store无关,只与Index有关。

package com.boe.cim.teacher.luence; import java.nio.file.Paths; import java.util.List; import org.apache.lucene.analysis.cn.smart.SmartChineseAnalyzer; import org.apache.lucene.document.Document; import org.apache.lucene.document.Field; import org.apache.lucene.document.IntField; import org.apache.lucene.document.StringField; import org.apache.lucene.document.TextField; import org.apache.lucene.index.IndexWriter; import org.apache.lucene.index.IndexWriterConfig; import org.apache.lucene.index.Term; import org.apache.lucene.store.Directory; import org.apache.lucene.store.FSDirectory; import com.boe.cim.teacher.pojo.TeacherInfo; /** * @author hyh * @description 创建文档索引 */ public class LuceneIndex { private Directory dir; /** *实例化indexerWriter * @return * @throws Exception */ private IndexWriter getWriter()throws Exception{ //中文分词器 SmartChineseAnalyzer analyzer=new SmartChineseAnalyzer(); IndexWriterConfig iwc=new IndexWriterConfig(analyzer); IndexWriter writer=new IndexWriter(dir, iwc); return writer; } /** * 获取indexDir * @param indexDir * @throws Exception */ public void index(String indexDir,List<TeacherInfo> listTeacher)throws Exception{ dir=FSDirectory.open(Paths.get(indexDir)); IndexWriter writer=getWriter(); for(int i=0;i<listTeacher.size();i++){ Document doc=new Document(); TeacherInfo teacher = listTeacher.get(i); //StringField 只索引不分词 doc.add(new StringField("id",String.valueOf(teacher.getId()), Field.Store.YES)); doc.add(new StringField("teacher", teacher.getTeacher(), Field.Store.YES)); doc.add(new StringField("school",teacher.getSchool(),Field.Store.YES)); doc.add(new StringField("department", teacher.getDepartment(), Field.Store.YES)); doc.add(new TextField("researchdirector", teacher.getResearchdirector(), Field.Store.YES)); doc.add(new TextField("instruments", teacher.getInstruments(), Field.Store.YES)); doc.add(new TextField("achievements", teacher.getAchievements(), Field.Store.YES)); // writer.deleteDocuments(new Term("id",String.valueOf(teacher.getId()))); writer.updateDocument(new Term("id",String.valueOf(teacher.getId())), doc); } writer.close(); } } 上述代码的作用
09-02
package com.boe.cim.teacher.luence; import java.nio.file.Paths; import java.util.List; import org.apache.lucene.analysis.cn.smart.SmartChineseAnalyzer; import org.apache.lucene.document.Document; import org.apache.lucene.document.Field; import org.apache.lucene.document.IntField; import org.apache.lucene.document.StringField; import org.apache.lucene.document.TextField; import org.apache.lucene.index.IndexWriter; import org.apache.lucene.index.IndexWriterConfig; import org.apache.lucene.index.Term; import org.apache.lucene.store.Directory; import org.apache.lucene.store.FSDirectory; import com.boe.cim.teacher.pojo.RequirementInfo; /** * @author hyh * @description 创建文档索引 */ public class LuceneIndexRequirement { private Directory dir; /** *实例化indexerWriter * @return * @throws Exception */ private IndexWriter getWriter()throws Exception{ //中文分词器 SmartChineseAnalyzer analyzer=new SmartChineseAnalyzer(); IndexWriterConfig iwc=new IndexWriterConfig(analyzer); IndexWriter writer=new IndexWriter(dir, iwc); return writer; } /** * 获取indexreDir * @param indexreDir * @throws Exception */ // public void index(String indexreDir, List<RequirementInfo> listRequirement) throws Exception { // dir = FSDirectory.open(Paths.get(indexreDir)); // IndexWriterConfig iwc = new IndexWriterConfig(new SmartChineseAnalyzer()); // iwc.setOpenMode(IndexWriterConfig.OpenMode.CREATE_OR_APPEND); // 明确指定打开模式 // try (IndexWriter writer = new IndexWriter(dir, iwc)) { // for (RequirementInfo requirement : listRequirement) { // Document doc = new Document(); // doc.add(new StringField("id", String.valueOf(requirement.getId()), Field.Store.YES)); // doc.add(new StringField("requirement", requirement.getRequirement(), Field.Store.YES)); // doc.add(new StringField("department", requirement.getDepartment(), Field.Store.YES)); // doc.add(new StringField("liaisonman", requirement.getLiaisonman(), Field.Store.YES)); // doc.add(new StringField("requirementtype", Integer.toString(requirement.getRequirementtype()), Field.Store.YES)); // doc.add(new TextField("requirementbackground", requirement.getRequirementbackground(), Field.Store.YES)); // doc.add(new TextField("requirementcontents", requirement.getRequirementcontents(), Field.Store.YES)); // writer.updateDocument(new Term("id", String.valueOf(requirement.getId())), doc); // } // } // } public void index(String indexreDir,List<RequirementInfo> listRequirement)throws Exception{ dir=FSDirectory.open(Paths.get(indexreDir)); IndexWriter writer=getWriter(); writer.commit(); for(int i=0;i<listRequirement.size();i++){ Document doc=new Document(); RequirementInfo requirement = listRequirement.get(i); //StringField 只索引不分词 doc.add(new StringField("id",String.valueOf(requirement.getId()), Field.Store.YES)); doc.add(new StringField("requirement", requirement.getRequirement(), Field.Store.YES)); doc.add(new StringField("department",requirement.getDepartment(),Field.Store.YES)); doc.add(new StringField("liaisonman", requirement.getLiaisonman(), Field.Store.YES)); doc.add(new StringField("requirementtype", Integer.toString(requirement.getRequirementtype()), Field.Store.YES)); doc.add(new StringField("technicalfield", requirement.getTechnicalfield(), Field.Store.YES)); doc.add(new TextField("requirementbackground", requirement.getRequirementbackground(), Field.Store.YES)); doc.add(new TextField("requirementcontents", requirement.getRequirementcontents(), Field.Store.YES)); // doc.add(new StringField("requirementtype", Integer.toString(requirement.getRequirementtype()), Field.Store.YES)); // doc.add(new TextField("requirementbackground", requirement.getRequirementbackground(), Field.Store.YES)); // doc.add(new TextField("requirementcontents", requirement.getRequirementcontents(), Field.Store.YES)); // writer.deleteDocuments(new Term("id",String.valueOf(teacher.getId()))); writer.updateDocument(new Term("id",String.valueOf(requirement.getId())), doc); } writer.close(); } // public void indexSingleRequirement(String indexreDir, RequirementInfo requirement) throws Exception { // dir = FSDirectory.open(Paths.get(indexreDir)); // try (IndexWriter writer = getWriter()) { // Document doc = new Document(); // doc.add(new StringField("id",String.valueOf(requirement.getId()), Field.Store.YES)); // doc.add(new StringField("requirement", requirement.getRequirement(), Field.Store.YES)); // doc.add(new StringField("department",requirement.getDepartment(),Field.Store.YES)); // doc.add(new StringField("liaisonman", requirement.getLiaisonman(), Field.Store.YES)); // doc.add(new StringField("requirementtype", Integer.toString(requirement.getRequirementtype()), Field.Store.YES)); // doc.add(new StringField("technicalfield", requirement.getTechnicalfield(), Field.Store.YES)); // doc.add(new TextField("requirementbackground", requirement.getRequirementbackground(), Field.Store.YES)); // doc.add(new TextField("requirementcontents", requirement.getRequirementcontents(), Field.Store.YES)); // // 添加其他字段... // writer.updateDocument(new Term("id", String.valueOf(requirement.getId())), doc); // } // try-with-resources 自动关闭writer // } } package com.boe.cim.teacher.luence; import java.util.List; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.beans.factory.annotation.Value; import org.springframework.boot.ApplicationArguments; import org.springframework.boot.ApplicationRunner; import org.springframework.core.annotation.Order; import org.springframework.retry.annotation.Backoff; import org.springframework.retry.annotation.Recover; import org.springframework.retry.annotation.Retryable; import org.springframework.stereotype.Component; import com.boe.cim.teacher.dao.TeacherInfoMapper; import com.boe.cim.teacher.pojo.TeacherInfo; import com.boe.cim.teacher.dao.RequirementInfoMapper; import com.boe.cim.teacher.pojo.RequirementInfo; import com.boe.cim.teacher.utils.FileOperationFunction; import lombok.extern.slf4j.Slf4j; @Slf4j @Component @Order(value=5) public class StartApplicationWithLuceneIndex implements ApplicationRunner{ @Value("${lucene.index.dir}") private String IndexDir; @Autowired private TeacherInfoMapper teacherInfoMapper; @Value("${lucenere.indexre.dir}") private String IndexreDir; @Autowired private RequirementInfoMapper requirementInfoMapper; @Override @Retryable(value= Exception.class,backoff=@Backoff(delay=2000)) //重试机制,默认重试三次,失败程序启动失败,Main函数run,异常直接捕获不了,因为被aop捕获了 public void run(ApplicationArguments args) { // TODO Auto-generated method stub FileOperationFunction.deleteFileFromPath(IndexDir); //有个文件权限太高,删不掉 log.info("生成教师索引文件ing..."); List<TeacherInfo> listTeacher = teacherInfoMapper.userTeacherInfoCreateLuceneIndex(); try { new LuceneIndex().index(IndexDir,listTeacher); } catch (Exception e) { // TODO Auto-generated catch block } log.info("生成教师索引文件成功,End"); // TODO Auto-generated method stub FileOperationFunction.deleteFileFromPath(IndexreDir); //有个文件权限太高,删不掉 log.info("生成需求索引文件ing..."); List<RequirementInfo> listRequirement = requirementInfoMapper.RequirementInfoCreateLuceneIndex(); try { new LuceneIndexRequirement().index(IndexreDir,listRequirement); } catch (Exception e) { // TODO Auto-generated catch block } log.info("生成需求索引文件成功,End"); } @Recover//重试多次皆失败回调方法 public void retryRecover(Exception e) { log.error("重试三次生成信息索引文件失败..."); log.error(e.getMessage()); } } 生成的是_0.fdt、_0.fdx
09-04
标题SpringBoot智能在线预约挂号系统研究AI更换标题第1章引言介绍智能在线预约挂号系统的研究背景、意义、国内外研究现状及论文创新点。1.1研究背景与意义阐述智能在线预约挂号系统对提升医疗服务效率的重要性。1.2国内外研究现状分析国内外智能在线预约挂号系统的研究与应用情况。1.3研究方法及创新点概述本文采用的技术路线、研究方法及主要创新点。第2章相关理论总结智能在线预约挂号系统相关理论,包括系统架构、开发技术等。2.1系统架构设计理论介绍系统架构设计的基本原则和常用方法。2.2SpringBoot开发框架理论阐述SpringBoot框架的特点、优势及其在系统开发中的应用。2.3数据库设计与管理理论介绍数据库设计原则、数据模型及数据库管理系统。2.4网络安全与数据保护理论讨论网络安全威胁、数据保护技术及其在系统中的应用。第3章SpringBoot智能在线预约挂号系统设计详细介绍系统的设计方案,包括功能模块划分、数据库设计等。3.1系统功能模块设计划分系统功能模块,如用户管理、挂号管理、医生排班等。3.2数据库设计与实现设计数据库表结构,确定字段类型、主键及外键关系。3.3用户界面设计设计用户友好的界面,提升用户体验。3.4系统安全设计阐述系统安全策略,包括用户认证、数据加密等。第4章系统实现与测试介绍系统的实现过程,包括编码、测试及优化等。4.1系统编码实现采用SpringBoot框架进行系统编码实现。4.2系统测试方法介绍系统测试的方法、步骤及测试用例设计。4.3系统性能测试与分析对系统进行性能测试,分析测试结果并提出优化建议。4.4系统优化与改进根据测试结果对系统进行优化和改进,提升系统性能。第5章研究结果呈现系统实现后的效果,包括功能实现、性能提升等。5.1系统功能实现效果展示系统各功能模块的实现效果,如挂号成功界面等。5.2系统性能提升效果对比优化前后的系统性能
在金融行业中,对信用风险的判断是核心环节之一,其结果对机构的信贷政策和风险控制策略有直接影响。本文将围绕如何借助机器学习方法,尤其是Sklearn工具包,建立用于判断信用状况的预测系统。文中将涵盖逻辑回归、支持向量机等常见方法,并通过实际操作流程进行说明。 一、机器学习基本概念 机器学习属于人工智能的子领域,其基本理念是通过数据自动学习规律,而非依赖人工设定规则。在信贷分析中,该技术可用于挖掘历史数据中的潜在规律,进而对未来的信用表现进行预测。 二、Sklearn工具包概述 Sklearn(Scikit-learn)是Python语言中广泛使用的机器学习模块,提供多种数据处理和建模功能。它简化了数据清洗、特征提取、模型构建、验证与优化等流程,是数据科学项目中的常用工具。 三、逻辑回归模型 逻辑回归是一种常用于分类任务的线性模型,特别适用于二类问题。在信用评估中,该模型可用于判断借款人是否可能违约。其通过逻辑函数将输出映射为0到1之间的概率值,从而表示违约的可能性。 四、支持向量机模型 支持向量机是一种用于监督学习的算法,适用于数据维度高、样本量小的情况。在信用分析中,该方法能够通过寻找最佳分割面,区分违约与非违约客户。通过选用不同核函数,可应对复杂的非线性关系,提升预测精度。 五、数据预处理步骤 在建模前,需对原始数据进行清理与转换,包括处理缺失值、识别异常点、标准化数值、筛选有效特征等。对于信用评分,常见的输入变量包括收入水平、负债比例、信用历史记录、职业稳定性等。预处理有助于减少噪声干扰,增强模型的适应性。 六、模型构建与验证 借助Sklearn,可以将数据集划分为训练集和测试集,并通过交叉验证调整参数以提升模型性能。常用评估指标包括准确率、召回率、F1值以及AUC-ROC曲线。在处理不平衡数据时,更应关注模型的召回率与特异性。 七、集成学习方法 为提升模型预测能力,可采用集成策略,如结合多个模型的预测结果。这有助于降低单一模型的偏差与方差,增强整体预测的稳定性与准确性。 综上,基于机器学习的信用评估系统可通过Sklearn中的多种算法,结合合理的数据处理与模型优化,实现对借款人信用状况的精准判断。在实际应用中,需持续调整模型以适应市场变化,保障预测结果的长期有效性。 资源来源于网络分享,仅用于学习交流使用,请勿用于商业,如有侵权请联系我删除!
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值