用Lucene索引数据库

Lucene简介与数据库索引 Lucence  每个技术都会有他存在的原因:解决实际生活中的问题和需求。个人认为Lucene(全文检索引擎工具包)就是迎合了互联网的发展解决在大量数据中准确的查询问题,关键词的划分、关键词出现的次数、包含关键词的目标文档排序等等。 一、简介  Lucene是全文检索引擎工具包,他是slor、ElasticSearch的底层,他们各有各的优点但是因为分布式的原因ElasticSearch是明显比slor更深程序员的喜爱,万维网、github、StackOverflow都是使用的ElasticSearch 阅读详情
用Lucene索引数据库

  Lucene,作为一种全文搜索的辅助工具,为我们进行条件搜索,无论是像Google,Baidu之类的搜索引擎,还是论坛中的搜索功能,还是其它 C/S架构的搜索,都带来了极大的便利和比较高的效率。本文主要是利用Lucene对MS Sql Server 2000进行建立索引,然后进行全文索引。至于数据库的内容,可以是网页的内容,还是其它的。本文中数据库的内容是图书馆管理系统中的某个作者表- Authors表。

  因为考虑到篇幅的问题,所以该文不会讲的很详细,也不可能讲的很深。

  本文以这样的结构进行:

  1.介绍数据库中Authors表的结构

  2.为数据库建立索引

  3.为数据库建立查询功能

  4.在web界面下进行查询并显示结果

  1.介绍数据库中Authors表的结构

字段名称         字段类型         字段含义

Au_id                Varchar(11)    作者号
Au_name        Varchar(60)     作者名
Phone             Char(12)           电话号码
Address          Varchar(40)      地址
City                   Varchar(20)     城市
State                Char(2)             省份
Zip                    Char(5)             邮编
contract            Bit(1)                外键(关系不大)

表中的部分内容:

  2.为数据库建立索引

  首先建立一个类TestLucene.java。这个类就是对数据库进行建立索引,编写查询条件等。

  当然,最开始就是建立数据库连接。连接代码这里就省略了。^_^

  接着,新建一个方法getResutl(String),它返回的是数据库表Authors的内容。具体代码如下:

    public ResultSet getResult(String sql){
      try{
        Statement stmt = conn.createStatement();
        ResultSet rs = stmt.executeQuery(sql);
        return rs;
      }
      catch(SQLException e){
        System.out.println(e);
      }
      return null;
    }

  然后,为数据库建立索引。

  首先要定义一个IndexWriter(),它是将索引写进Lucene自己的数据库中,它存放的位置是有你自己定义的。在定义 IndexWriter 是需要指定它的分析器。Lucene自己自带有几个分析器,例如:StandarAnalyzer(),SimpleAnalyzer(), StopAnalyzer()等。它作用是对文本进行分析,判断如何进行切词。
接着,要定义一个Document。Document相当于二维表中一行数据一样。Document里包含的是Field字段,Field相当于数据库中一列,也就是一个属性,一个字段。
最后应该对IndexWriter进行优化,方法很简单,就是writer.optimize().
具体代码如下:

public void Index(ResultSet rs){
      try{
        IndexWriter writer = new IndexWriter("d:/index/", getAnalyzer(), true);
        while(rs.next()){
            Document doc=new Document();
            doc.add(Field.Keyword("id",rs.getString("au_id")));
            doc.add(Field.Text("name",rs.getString("au_name")));
            doc.add(Field.UnIndexed("address",rs.getString("address")));
            doc.add(Field.UnIndexed("phone",rs.getString("phone")));
            doc.add(Field.Text("City",rs.getString("city")));
            writer.addDocument(doc);
          }
        writer.optimize();
        writer.close();
      }
      catch(IOException e){
        System.out.println(e);
      }
      catch(SQLException e){
        System.out.println(e);
      }
    }

    public Analyzer getAnalyzer(){
      return new StandardAnalyzer();
    }

  3.为数据库建立查询功能

  在类TestLucene中建立一个新的方法searcher(String),它返回的是一个搜索的结构集,相当于数据库中的ResultSet一样。它代的参数是你要查询的内容。这里,我把要查询的字段写死了。你可以在添加一个参数表示要查询的字段。
这里主要有两个对象IndexSearcher和Query。IndexSearcher是找到索引数据库,Query是处理搜索,它包含了三个参数:查询内容,查询字段,分析器。
具体代码如下:

public Hits seacher(String queryString){
      Hits hits=null;;
      try{
        IndexSearcher is = new IndexSearcher("D:/index/");
        Query query=QueryParser.parse(queryString,"City",getAnalyzer());
        hits=is.search(query);
      }catch(Exception e){
        System.out.print(e);
      }
      return hits;
    }

  4.在web界面下进行查询并显示结果

  这里建立一个Jsp页面TestLucene.jsp进行搜索。

  在TestLucene.jsp页面中首先引入类


<%@ page import="lucenetest.LucentTest"%>
<%@ page import="org.apache.lucene.search.*,org.apache.lucene.document.*" %>

  然后定义一个LuceneTest对象,获取查询结果集:

LucentTest lucent=new LucentTest();
Hits hits=lucent.seacher(request.getParameter("queryString"));

  定义一个Form,建立一个查询环境:

<form action="TestLucene.jsp">
<input type="text" name="queryString"/>
<input type="submit" value="搜索"/>
</form>

  显示查询结果:

<table>
<%if(hits!=null){%>
<tr>
    <td>作者号</td>
    <td>作者名</td>
    <td>地址</td>
    <td>电话号码</td>
</tr>

<% for(int i=0;i<hits.length();i++){
    Document doc=hits.doc(i);
   %>
    <tr>
    <td><%=doc.get("id") %></td>
    <td><%=doc.get("name") %></td>
    <td><%=doc.get("address") %></td>
    <td><%=doc.get("phone") %></td>
</tr>
<% }}%>
</table>

用Lucene-1.3-final为网站数据库建立索引

下是看了lnboy写的《用lucene建立大富翁论坛的全文检索》后写的测试代码。

为数据库cwb.mdb建立全文索引的indexdb.jsp

<%@ page import ="org.apache.lucene.analysis.standard.*" %>  
<%@ page import="org.apache.lucene.index.*" %>
<%@ page import="org.apache.lucene.document.*" %>
<%@ page import="lucene.*" %>
<%@ page contentType="text/html; charset=GBK" %>
<%
       long start = System.currentTimeMillis();
       String aa=getServletContext().getRealPath("/")+"index";    
       IndexWriter writer = new IndexWriter(aa, new StandardAnalyzer(), true);
     try {
       Class.forName("sun.jdbc.odbc.JdbcOdbcDriver").newInstance();

String url = "jdbc:odbc:driver={Microsoft Access Driver (*.mdb)}
       ;DBQ=d://Tomcat 5.0//webapps//zz3zcwbwebhome//WEB-INF//cwb.mdb";
       Connection conn = DriverManager.getConnection(url);
       Statement stmt = conn.createStatement();
       ResultSet rs = stmt.executeQuery(
           "select Article_id,Article_name,Article_intro from Article");
       while (rs.next()) {
              writer.addDocument(mydocument.Document(rs.getString("Article_id"),
               rs.getString("Article_name"),rs.getString("Article_intro")));
       }
       rs.close();
       stmt.close();
       conn.close();
  
       out.println("索引创建完毕");    
       writer.optimize();
       writer.close();
       out.print(System.currentTimeMillis() - start);
       out.println(" total milliseconds");

     }
     catch (Exception e) {
       out.println(" 出错了 " + e.getClass() +
                          "/n 错误信息为: " + e.getMessage());
     }
%>

用于显示查询结果的aftsearch.jsp
<%@ page import="org.apache.lucene.search.*" %>
<%@ page import="org.apache.lucene.document.*" %>
<%@ page import="lucene.*" %>
<%@ page import = "org.apache.lucene.analysis.standard.*" %>  
<%@ page import="org.apache.lucene.queryParser.QueryParser" %>
<%@ page contentType="text/html; charset=GBK" %>
<%
     String keyword=request.getParameter("keyword");
      keyword=new String(keyword.getBytes("ISO8859_1"));  
       out.println(keyword);
    try {
        String aa=getServletContext().getRealPath("/")+"index";    
       Searcher searcher = new IndexSearcher(aa);
       Query query = QueryParser.parse(keyword, "Article_name", new StandardAnalyzer());
     
       out.println("正在查找: " + query.toString("Article_name")+"<br>");
       Hits hits = searcher.search(query);
       System.out.println(hits.length() + " total matching documents");
       java.text.NumberFormat format = java.text.NumberFormat.getNumberInstance();
       for (int i = 0; i < hits.length(); i++) {
         //开始输出查询结果
         Document doc = hits.doc(i);
         out.println(doc.get("Article_id"));
         out.println("准确度为:" + format.format(hits.score(i) * 100.0) + "%");
         out.println(doc.get("Article_name")+"<br>");
        // out.println(doc.get("Article_intro"));
       }
     }catch (Exception e) {
       out.println(" 出错了 " + e.getClass() +"/n 错误信息为: " + e.getMessage());
     }
%>

辅助类:
package lucene;
import org.apache.lucene.document.Document;
import org.apache.lucene.document.Field;
import org.apache.lucene.document.DateField;

public class mydocument {
public static Document Document(String Article_id,String Article_name,String Article_intro){
      Document doc = new Document();
       doc.add(Field.Keyword("Article_id", Article_id));
       doc.add(Field.Text("Article_name", Article_name));
       doc.add(Field.Text("Article_intro", Article_intro));
       return doc;
   }
   public mydocument() {
   }
}

用lucene为数据库搜索建立增量索引

用 lucene 建立索引不可能每次都重新开始建立,而是按照新增加的记录,一次次的递增
建立索引的IndexWriter类,有三个参数

IndexWriter writer = new IndexWriter(path, new StandardAnalyzer(),isEmpty);

其中第三个参数是bool型的,指定它可以确定是增量索引,还是重建索引.
对于从数据库中读取的记录,譬如要为文章建立索引,我们可以记录文章的id号,然后下次再次建立索引的时候读取存下的id号,从此id后往下继续增加索引,逻辑如下.

建立增量索引,主要代码如下
public void createIndex(String path)
{
      Statement myStatement
= null ;
      String articleId
= " 0 " ;
     
// 读取文件,获得文章id号码,这里只存最后一篇索引的文章id
     try {
         FileReader fr
= new FileReader( " **.txt " );
         BufferedReader br
= new BufferedReader(fr);                 
         articleId
= br.readLine();
        
if (articleId == null || articleId == "" )
         articleId
= " 0 " ;
         br.close();
         fr.close();
       }
catch (IOException e) {
         System.out.println(
" error343! " );
         e.printStackTrace();
       }
    
try {
        
// sql语句,根据id读取下面的内容
         String sqlText = " ***** " + articleId;
         myStatement
= conn.createStatement();
         ResultSet rs
= myStatement.executeQuery(sqlText);
       
// 写索引
         while (rs.next()) {
          Document doc
= new Document();
          doc.add(Field.Keyword(
" ** " , DateAdded));
          doc.add(Field.Keyword(
" ** " , articleid));
          doc.add(Field.Text(
" ** " , URL));    
          doc.add(Field.Text(
" ** " , Content));
          doc.add(Field.Text(
" ** " , Title));    
         
try {
             writer.addDocument(doc);
           }
          
catch (IOException e){
             e.printStackTrace();
          }
           
// 将我索引的最后一篇文章的id写入文件
           try {
            FileWriter fw
= new FileWriter( " **.txt " );
            PrintWriter out
= new PrintWriter(fw);    
            out.close();
            fw.close();
            }
catch (IOException e) {
              e.printStackTrace();
            }
          }
             ind.Close();
             System.out.println(
" ok.end " );
          }
         
catch (SQLException e){
             e.printStackTrace();
         }
        
finally {
            
// 数据库关闭操作
         }        
     }

然后控制是都建立增量索引的时候根据能否都到id值来设置IndexWriter的第三个参数为true 或者是false

boolean isEmpty = true ;
try {
     FileReader fr
= new FileReader( " **.txt " );
     BufferedReader br
= new BufferedReader(fr);                 
    
if (br.readLine() != null ) {
         isEmpty
= false ;
      }
      br.close();
      fr.close();
     }
catch (IOException e) {
        e.printStackTrace();
   }
            
   writer
= new IndexWriter(Directory, new StandardAnalyzer(),isEmpty);
lucene索引并搜索mysql数据库 由于对lucene比较感兴趣,本人在网上找了点资料,终于成功地用lucene对mysql数据库进行索引创建并成功搜索,先总结如下:     首先介绍一个jdbc工具类,用于得到Connection对象: import java.sql.Connection; import java.sql.DriverManager; import java.sql.SQLExce 阅读详情

相关推荐

【springboot微服务】Lucence实现Mysql全文检索

Lucence实现Mysql全文检索

congge 9045

lucene索引MySQL原因,搜索引擎(Lucene-索引详解)

IndexWriter详解问题1:索引创建过程完成什么事?回顾架构图 Lucene索引创建API 图示 Lucene索引创建代码示例public static void main(String[] args) throws IOException {// 创建使用的分词器Analyzer analyzer = new IKAnalyzer4Lucene7(true);// 索引配置对象IndexW...

weixin_29029731的博客 323

1976国际标准大气_Matlab

输入高度,计算空气密度、气压、温度、声速 function [airDens,airPress,temp,soundSpeed]=Atmos(geomAlt) %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% % 1976 U.S Standard Atmosphere Interpolation % % Note: Function does not extr.

JISANSAN的博客 1万+

Lucene 一种索引数据库

  Lucene作为一个企业级搜素引擎总会让人感觉到很惊讶,但是归根接地这个程序的本质就是让人去使用,而不是让人不知所措的去应用,本文将会按照源码的底层进行Lucene的讲解,当然讲解所用到的lucene版本也会是最新版本,现在的时间是2018年8月11日18:30:07,所以以后这篇文章可能会落后还请大家谅解。 Lucene是apache软件基金会4 jakarta项目组的一个子项目,是一个...

weixin_41046245的博客 527

macOS 27下PlayCover“没有权限打开”的完整修复指南

macOS系统通过Gatekeeper、TCC(透明、同意与控制)和安全启动等机制,对第三方应用进行层层校验,以防范恶意代码。这些机制会检查应用的隔离属性、签名状态以及所需系统权限,当任一环节不满足时,就会出现“没有权限打开”的提示。对于开发者工具或未上架App Store的开源软件,这类拦截尤为常见。尤其在macOS 27上,系统进一步收紧了绕过策略,导致PlayCover等工具无法正常启动。本文以PlayCover为例,详细解析权限链路上的三道关卡,并给出清除隔离属性、调整SIP状态、重置TCC记录等完

weixin_32612263的博客 732

Android 车载应用开发与优化(1) - CarLauncher 核心功能与动态集成探秘

本文深入探讨了Android车载应用开发中CarLauncher的核心功能与实现原理。作为车载系统的“脸面”,CarLauncher不仅提供应用入口,更通过动态集成技术将地图、音乐等关键信息嵌入桌面,以保障驾驶安全与体验。文章详细解析了其源码结构、权限配置、应用启动机制以及基于Activity嵌入的动态集成黑魔法,为开发者提供了从基础认识到高级优化的完整指南。

weixin_29239279的博客 281

Lucene索引并检索数据库

比较深入的讲解了Lucene索引和检索原理,以及如何对数据库建立索引和检索数据

日拱一卒,功不唐捐 6139

Autosar MCAL-S32k324 Crypto配置-基于EB

NXP官网提供了免费的HSE固件,同时也提供了对应的协议栈。本文以算法为例,介绍MCAL相关的配置及在代码中的集成与使用。使用HSE计算,比软件算法确实方便许多。后面会完善更多的算法测试。

赞的博客 2433

Lucene索引数据库 Indexing Database

Lucene一个常见的用例是在一个或者多个数据库表进行全文检索。 虽然MySql有全文检索的功能,但是如果字段和数据量增加,MySql的性能会减低很快。 映射数据到Lucene 通常情况下最需要解决的问题是怎么把你数据库的数据描述到Lucene里面,最可能的解决方法法就是把你的数据表放到平面的Lucence Document对象里面。 用伪代码表示: String sql = “selec...

baiseda 86

11、改进的加权轮询调度算法

本文详细介绍了对传统加权轮询(WRR)调度算法的改进方法,包括动态权重调整、优先级调度和预测机制,旨在提升系统的公平性、响应速度和适应性。通过设计与实现改进算法,并结合实验验证其在响应时间、资源利用率和公平性方面的显著提升,同时列举了该算法在数据中心、云服务平台、CDN及电商平台等实际场景中的应用案例。

day7的博客 189

Dify使用教程3:Dify创建工作流

Dify使用教程3:Dify创建工作流 接着,我们连接下一个节点:“LLM”填入上下文变量为:result。这时候知识库就添加成功了。添加新节点:结束节点。

拥抱具身智能,昇腾Ascend C 5128

lucene索引和数据库索引的比较

1、数据库索引就是B+树了 2、Lucene索引就是倒排索引了 3、现在想确认的一点是,Lucene中对Key的索引结构是不是也用的B+树? 4、找了些资料知道了,Lucene对Key的索引没有用到B+树,而是按字典序进行排列,而有增量进来时,通过mergeSort进行索引的合并,形成新的索引文件,保存在磁盘中 5、对于Lucene的索引文件,有一些压缩策略,一个是Vint方法(可变长度整

zhangmengjlu的专栏 5314

TextView部分文字可以被点击的效果。TextView拼接图片,图片可以被点击

今有一需求,就是列表标题后拼接图标,点击图标跳转一个web页; 这里简单做下笔记,以供需要的人参考: //设置部分文字点击事件 ClickableSpan clickableSpan = new ClickableSpan() { @Override public void onClick(View widget) { Toast.makeText(conte...

LXFX1108的专栏 692

Lucene索引数据库 Indexing Database(转载)

Lucene一个常见的用例是在一个或者多个数据库表进行全文检索。 虽然MySql有全文检索的功能,但是如果字段和数据量增加,MySql的性能会减低很快。 映射数据到Lucene 通常情况下最需要解决的问题是怎么把你数据库的数据描述到Lucene里面,最可能的解决方法法就是把你的数据表放到平面的Lucence Document对象里面。 [code="java"]用伪代码表示: ...

qtlkw 150

YOLO11后处理优化 | 引入DIoU-NMS替代传统NMS,解决高重叠目标误删,召回率大幅提升

YOLO11模型在密集目标场景下存在NMS后处理导致的漏检问题。本文提出采用DIoU-NMS替代传统NMS,通过引入中心点距离信息,有效区分重叠但不同的目标,提升召回率。文章详细分析了传统NMS的三大局限性,对比了Soft-NMS和DIoU-NMS的优劣,并给出在YOLO11中实现DIoU-NMS的完整代码方案。该方法特别适用于安防监控、自动驾驶等目标密集场景,能够在不显著增加计算量的情况下显著改善检测效果。

2601_95807009的博客 150

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

lucene3.5-使用Berkeley DB存储索引

lucene3.5-使用Berkeley DB存储索引

wanglihuhappy的专栏 173

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

用Lucene.net对数据库建立索引及搜索

 用Lucene.net对数据库建立索引及搜索       最近我一直在研究 Lucene.net ,发现Lucene.net对数据库方面建索引的文章在网上很少见,其实它是可以对数据库进行索引的,我闲着没事,写了个测试程序,竟然成功了, 可以实现对数据另类查询的一种方式(通过建索引查询),发表出来,和大家共享.   其实 Lucene.net 对数据库建索引很简单,只要把数据表里面的记

水上漂的专栏 6316

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

lucene创建索引并搜索mysql数据库

lucene结合数据库步骤 1:写一段传统的JDBC程序,将每条的用户信息从数据库读取出来 2:针对每条用户记录,建立一个lucene document  Document doc = new Document();  并根据你的需要,将用户信息的各个字段对应luncene document中的field 进行添加

sunshaoshan163的专栏 7355

java lucene 索引构建,利用lucene对整个数据库建立索引(lucene,SQL,JDBC)

导言:如果要对整个数据库做精确查询或模糊查询,我们怎么才可以做到?还是通过SQL查询吗?答案是否定的。因为,通过SQL对整个数据库做精确查询或模糊查询,速度将非常的慢;lucene解决了这个问题。通过对表或者文本文件预先建立索引,可以很快的实现全文检索。思路:1、通过SQL得到所有表名的集合---->2、遍历所有的表,分别为每个表的每个记录建立索引;同时添加表的中文名以及表的说明的索引---...

weixin_32955455的博客 333
上一篇: Tomcat server.xml的结构图
下一篇: Lucene 2.4.0 一些过期方法的解决方案
Java2King
博客等级 码龄18年 221粉丝 77原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值