查看Lucene分词器分词后的结果

本文通过两个示例展示了如何使用Lucene中的StandardAnalyzer和WhitespaceAnalyzer进行文本分词。StandardAnalyzer能够将输入文本切分为单个词语,并去除停用词及进行词干提取;而WhitespaceAnalyzer则简单地按空白符切分文本。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

import java.io.StringReader;

import org.apache.lucene.analysis.Analyzer;
import org.apache.lucene.analysis.Token;
import org.apache.lucene.analysis.TokenStream;
import org.apache.lucene.analysis.WhitespaceAnalyzer;
import org.apache.lucene.analysis.standard.StandardAnalyzer;

/**
 * 输出分词器分词的结果
 * @author USER
 *
 */
public class LookAnalyzerResult {
 
     /**
      * 测试主程序入口
      * @param args
      * @throws Exception
      */
     public static void main(String[] args) throws Exception{
      Analyzer analyzer1 = new StandardAnalyzer();
      Analyzer analyzer2 = new WhitespaceAnalyzer();
      String indexString1 = "中国建设银行 深发银行 广东发展银行";
     
      String indexString2 = "这是一届创造奇迹、超越梦想的奥运会.......";
     
      /**
       * 中   国   建   设   银   行   深   发   银   行   广   东   发   展   银   行  
            中国建设银行   深发银行   广东发展银行 
       */
      showAnalyzerResult(analyzer1,indexString1);
      showAnalyzerResult(analyzer2,indexString1);
     
      /**
       * 这   是   一   届   创   造   奇   迹   超   越   梦   想   的   奥   运   会  
            这是一届创造奇迹、超越梦想的奥运会....... 
       */
      showAnalyzerResult(analyzer1,indexString2);
      showAnalyzerResult(analyzer2,indexString2);
     }
 
     /**
      * 查看分词后的结果
      * @param analyzer
      * @param s
      * @throws Exception
      */
  public static void showAnalyzerResult(Analyzer analyzer, String s) throws Exception {

    StringReader reader = new StringReader(s);
    TokenStream ts = analyzer.tokenStream(s, reader);

    Token t = ts.next();
    while (t != null) {
      System.out.print(t.termText()+"   ");
      t = ts.next();
    }
    System.out.println();
  }
}

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值