Solr、lucene查询语句作或查询时的注意点

最新推荐文章于 2020-06-02 08:25:52 发布

hankesi2000

最新推荐文章于 2020-06-02 08:25:52 发布

阅读量149

点赞数

分类专栏： solr+lucene 文章标签： lucene Solr ITeye 搜索引擎 XML

solr+lucene 专栏收录该内容

5 篇文章

订阅专栏

在使用lucene做搜索引擎时，中文的查询是值得注意的一点。其中有一些问题需要尤其注意：

首先推荐在lucene方面的牛人的博客：http://forfuture1978.iteye.com/blog/588716，这里有关于查询的一些疑惑，在此不再做介绍。另：他的其他关于lucene的文章，也强烈推荐。

在查询方面，与的查询，基本不会有太大问题，中文分词工具分好词后，所有的term都会变为PhraseQuery的方式，依次对查询条件进行查询。

如果用户输入的查询条件，想到的是或的关系，或者因为需求方面的问题，希望返回更多的数据给用户，则都需要使用或的关系。

[color=darkred][size=large]1. autoGeneratePhraseQueries=false[/size][/color]
由于lucene默认是使用PhraseQuery来检索数据，那我们的需求就不满足了，这里需要做一个简单的修改，在schema.xml中：


<fieldType name="text" class="solr.TextField" positionIncrementGap="100" autoGeneratePhraseQueries="false">

其中autoGeneratePhraseQueries为true时，为精确查找，即AND的关系，改为false即可。此时，Query的实现类变为BooleanQuery，多个term变为SHOULD的关系，便实现了OR的需求。

下面来看一下源代码：
QueryParse.term(String)的部分代码为


       if (wildcard) {
         q = getWildcardQuery(field, termImage);
       } else if (prefix) {
         q = getPrefixQuery(field,
           discardEscapeChar(term.image.substring
          (0, term.image.length()-1)));
       } else if (fuzzy) {
          float fms = fuzzyMinSim;
          try {
            fms = Float.valueOf(fuzzySlop.image.substring(1)).floatValue();
          } catch (Exception ignored) { }
         if(fms < 0.0f || fms > 1.0f){
           {if (true) throw new ParseException("Minimum similarity for a FuzzyQuery has to be between 0.0f and 1.0f !");}
         }
         q = getFuzzyQuery(field, termImage,fms);
       } else {
         q = hasNewAPI ? getFieldQuery(field, termImage, false) : getFieldQuery(field, termImage);
       }

注意

q = hasNewAPI ? getFieldQuery(field, termImage, false) : getFieldQuery(field, termImage);

这一句中，hasNewAPI =true(3.1版本中为静态变量)，则进入getFieldQuery(field, termImage, false)中：


if (numTokens == 0)
      return null;
    else if (numTokens == 1) {
      ....
    else {
       if (severalTokensAtSamePosition || (!quoted && !autoGeneratePhraseQueries)) {
            BooleanQuery q = newBooleanQuery(positionCount == 1);
       }else{
            PhraseQuery pq = newPhraseQuery();
       }
    }

这里可以看到，如果autoGeneratePhraseQueries为false，才能创建[b]BooleanQuery[/b]对象，否则就为[b]PhraseQuery[/b]。

[color=darkred][size=large]2. 禁用"？*~等一些特殊字符[/size][/color]
在term()的代码中，如果使用字符"*?~则会进入下面的伪代码中：


 case PREFIXTERM:
       q = getPrefixQuery(field,
           discardEscapeChar(term.image.substring
          (0, term.image.length()-1)));
 case WILDTERM:
        term = jj_consume_token(WILDTERM);
                           wildcard=true;
 case QUOTED:
         q = getFieldQuery(field, discardEscapeChar
(term.image.substring(1, term.image.length()-1)), s);
 case FUZZY_SLOP:
         q = getFuzzyQuery(field, termImage,fms);

他们最终产生的对象，都不会是BooleanQuery。这样的情况下，导致这些分支都进入不到

 q = hasNewAPI ? getFieldQuery(field, termImage, false) : getFieldQuery(field, termImage);

中，这样一来，所有的处理都变成以AND为前提的处理 :shock:

[color=darkred][size=large]3. 思考[/size][/color]
怎么处理这样的问题呢？目前正在探索中，暂时考虑到的方式就是在客户端先作一次预处理，将不符合OR场景的情况都处理成OR的情况，然后再交给lucene去处理。当然，这个方案有个很明显的问题，即分词模块都要集成到客户端，造成很大的冗余。

有什么好的方法吗？欢迎提出 :)