Solr应用

最新推荐文章于 2020-04-22 15:47:33 发布

原创最新推荐文章于 2020-04-22 15:47:33 发布 · 533 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#Solr

JavaEE 专栏收录该内容

33 篇文章

订阅专栏

　　Solr是apache的顶级开源项目，它是使用java开发，基于lucene的全文检索服务器。Solr比lucene提供了更多的查询语句，而且它可扩展、可配置，同时它对lucene的性能进行了优化。Solr和lucene有什么区别呢？

　　Lucene是一个全文检索引擎工具包，它只是一个jar包，不能独立运行与对外提供服务。

　　Solr是一个全文检索服务器，它可以单独运行在servlet容器上，可以单独对外提供搜索和索引功能。Solr比lucene在开发全文检索功能方面更快捷、更方便。

　　那么，Solr是如何实现全文检索的呢？

　　索引流程：solr客户端（浏览器、java程序）可以向solr服务端发送POST请求，请求内容是包含Field等信息的一个xml文档，通过该文档，solr实现对索引的维护（增删改）。

　　搜索流程：solr客户端（浏览器、java程序）可以向solr服务端发送GET请求，solr服务器返回一个xml文档。

　　在使用solr时，先要下载与安装solr（本文使用4.10.3版本），下载地址：http://archive.apache.org/dist/lucene/solr/。其中，Solr和lucene的版本是同步更新的。

　　Linux下需要下载lucene-4.10.3.tgz，windows下需要下载lucene-4.10.3.zip。

　　solr运行环境是：　　

  Jdk：1.7及以上

　Solr：4.10.3

　Mysql：5X

　Web服务器：tomcat 7

　　将solr-4.10.3/dist下的solr-4.10.3.war包（为使用方便，将其更名为solr.war）拷贝到tomcat的webapps下，启动tomcat时，该war包会自动解压缩为名称为solr的文件夹，此时，将solr.war包删除。接下来，添加solr的扩展服务包，截图如下（jar包数量较多，部分显示）：

　　接下来，将log4j.properties等配置文件拷贝到如下路径：

　　接下来，在web.xml中指定solrhome的目录：

<env-entry>
		<env-entry-name>solr/home</env-entry-name>
		<env-entry-value>E:\tomcat\apache-tomcat-7.0.53-8090\solrhome</env-entry-value>
		<env-entry-type>java.lang.String</env-entry-type>
</env-entry>

　　其中，Solrhome是solr服务运行的主目录，一个solrhome目录里面包含多个solrcore目录，一个solrcore目录里面包含了一个solr实例运行时所需要的配置文件和数据文件。每一个solrcore都可以单独对外提供搜索和索引服务。多个solrcore之间没有关系。solrhome的文件结构：

　　solrcore的文件结构如下：

　　在solrcore的conf文件下，找到solrconfig.xml文件，通过里面的lib标签来指定依赖包的地址：

<lib dir="${solr.install.dir:..}/contrib/extraction/lib" regex=".*\.jar" />
  <lib dir="${solr.install.dir:..}/dist/" regex="solr-cell-\d.*\.jar" />
  <lib dir="${solr.install.dir:..}/contrib/clustering/lib/" regex=".*\.jar" />
  <lib dir="${solr.install.dir:..}/dist/" regex="solr-clustering-\d.*\.jar" />
  <lib dir="${solr.install.dir:..}/contrib/langid/lib/" regex=".*\.jar" />
  <lib dir="${solr.install.dir:..}/dist/" regex="solr-langid-\d.*\.jar" />
  <lib dir="${solr.install.dir:..}/contrib/velocity/lib" regex=".*\.jar" />
  <lib dir="${solr.install.dir:..}/dist/" regex="solr-velocity-\d.*\.jar" />   
  <lib dir="${solr.install.dir:..}/contrib/dataimporthandler/lib" regex=".*\.jar" />   
  <lib dir="${solr.install.dir:..}/contrib/db/lib" regex=".*\.jar" />

　　里面的“solr.install.dir”表示solrcore的安装目录。

　　再在solrcore的conf文件下找到schema.xml文件，加入如下配置信息：　

<!-- Chinese -->
	<fieldType name="text_zh" class="solr.TextField">
      <analyzer class="org.wltea.analyzer.lucene.IKAnalyzer"> </analyzer>
    </fieldType>
	<field name="content_zh" type="text_zh" indexed="true" stored="true"></field>	
	
	<field name="product_name" type="text_zh" indexed="true" stored="true"></field>
    <field name="product_catalog_name" type="text_zh" indexed="true" stored="true"></field>
	<field name="product_price" type="float" indexed="true" stored="true"></field>
	<field name="product_description" type="text_zh" indexed="true" stored="true"></field>	
	
    <field name="product" type="text_zh" indexed="true" stored="true" multiValued="true"></field>

	<copyField source="id" dest="product"/>
	<copyField source="product_name" dest="product"/>	
	<copyField source="product_catalog_name" dest="product"/>	
	<copyField source="product_price" dest="product"/>	
	<copyField source="product_description" dest="product"/>

　　其中，product是测试搜索的数据。

　　每个SolrCore都有自己的索引文件目录，默认在SolrCore目录下的data中。data数据目录下包括了index索引目录和tlog日志文件目录。如果不想使用默认的目录也可以通过solrConfig.xml更改索引目录，如下：

<dataDir>${solr.data.dir:E：/develop/solr/solrhome/solrcore/data}</dataDir>

　　在solrconfig.xml文件中，有个requestHandler标签，它是一个请求处理器，定义了索引和搜索的访问方式。通过/update维护索引，可以完成索引的添加、修改、删除操作；通过/select搜索索引；通过/dataimport可以导入数据库中的数据。如下：

<requestHandler name="/dataimport" class="org.apache.solr.handler.dataimport.DataImportHandler">
     <lst name="defaults">
		<str  name="config">data-config.xml</str>
     </lst>
  </requestHandler>

　　在配置完solr后，启动tomcat，访问solr，界面如下：

　　一个solr服务器可以配置多个solrcore，这样做的好处有：

　　（1）在进行solrcloud的时候，必须配置多solrcore。

　　（2）每个solrcore之间是独立的，都可以单独对外提供服务；不同的业务模块可以使用不同的solrcore来提供搜索和索引服务。

　　在使用solr时，要先在schema.xml文件中配置solrcore的一些数据信息，包括Field和FieldType的定义等信息，在solr中，Field和FieldType都需要先定义后使用。　　

定义Field域
<field name="id" type="string" indexed="true" stored="true" required="true" multiValued="false" /> 
    Name：指定域的名称
    Type：指定域的类型
    Indexed：是否索引
    Stored：是否存储
    Required：是否必须
    multiValued：是否多值，比如商品信息中，一个商品有多张图片，一个Field像存储多个值的话，必须将multiValued设置为true。
----------------------------------------------
动态域
<dynamicField name="*_i"  type="int"    indexed="true"  stored="true"/>
    Name：指定动态域的命名规则
------------------------------------------------
指定唯一键
<uniqueKey>id</uniqueKey>
    其中的id是在Field标签中已经定义好的域名，而且该域要设置为required为true。
    一个schema.xml文件中必须有且仅有一个唯一键
-----------------------------------------------
复制域
<copyField source="cat" dest="text"/>
    Source：要复制的源域的域名
    Dest：目标域的域名
    由dest指的的目标域，必须设置multiValued为true。
-------------------------------------------------
定义域的类型
<fieldType name="text_general" class="solr.TextField" positionIncrementGap="100">
      <analyzer type="index">
 <tokenizer class="solr.StandardTokenizerFactory"/>
        <filter class="solr.StopFilterFactory" ignoreCase="true" words="stopwords.txt" />
        <!-- in this example, we will only use synonyms at query time
        <filter class="solr.SynonymFilterFactory" synonyms="index_synonyms.txt" ignoreCase="true" expand="false"/>
        -->
        <filter class="solr.LowerCaseFilterFactory"/>
      </analyzer>
      <analyzer type="query">
        <tokenizer class="solr.StandardTokenizerFactory"/>
        <filter class="solr.StopFilterFactory" ignoreCase="true" words="stopwords.txt" />
        <filter class="solr.SynonymFilterFactory" synonyms="synonyms.txt" ignoreCase="true" expand="true"/>
        <filter class="solr.LowerCaseFilterFactory"/>
      </analyzer>
</fieldType>
    Name：指定域类型的名称
    Class：指定该域类型对应的solr的类型
    Analyzer：指定分析器
    Type：index、query，分别指定搜索和索引时的分析器
    Tokenizer：指定分词器
    Filter：指定过滤器
-------------------------------------------------
使用ikanalyzer进行中文分词
<!-- Chinese -->
	<fieldType name="text_zh" class="solr.TextField">
      <analyzer class="org.wltea.analyzer.lucene.IKAnalyzer"> </analyzer>
    </fieldType>
	<field name="content_zh" type="text_zh" indexed="true" stored="true"></field>

　　我们在java程序中使用solr时，需要使用solrj，这是solr服务器的java客户端。其操作逻辑如下：

　　接下来通过代码演示操作solr：　　

package com.itszt.solr;

import org.apache.solr.client.solrj.SolrQuery;
import org.apache.solr.client.solrj.SolrServerException;
import org.apache.solr.client.solrj.impl.HttpSolrServer;
import org.apache.solr.client.solrj.response.QueryResponse;
import org.apache.solr.common.SolrDocument;
import org.apache.solr.common.SolrDocumentList;
import org.apache.solr.common.SolrInputDocument;
import org.junit.Test;

import java.io.IOException;
import java.util.Collection;
import java.util.List;
import java.util.Map;
import java.util.Set;

/**
 * 测试solr
 */
public class TestUpdate {
    //products中,product_price的type为text_zh
    // //products2中,product_price的type为float
    //更换另一个solr-core

    //测试插入数据
    @Test
    public void testInsertData() throws IOException, SolrServerException {
        HttpSolrServer solrServer = new HttpSolrServer("http://localhost:8090/solr/products2");
        SolrInputDocument solrInputDocument = new SolrInputDocument();
        solrInputDocument.addField("id","10086");
        solrInputDocument.addField("product_name","大红花");
        solrInputDocument.addField("product_price","28.89");
        solrInputDocument.addField("product_description","这朵大红花就是好好看");
        solrServer.add(solrInputDocument);
        solrServer.commit();
    }

    //测试更新数据
    @Test
    public void testUpdateData() throws IOException, SolrServerException {
        HttpSolrServer solrServer = new HttpSolrServer("http://localhost:8090/solr/products2");
        SolrInputDocument solrInputDocument = new SolrInputDocument();
        solrInputDocument.addField("id","10086");
        solrInputDocument.addField("product_name","大红花");
        solrInputDocument.addField("product_price","28.79");
        solrInputDocument.addField("product_description","这朵大红花在加工后就是好好看");
        solrServer.add(solrInputDocument);
        solrServer.commit();
    }

    //测试删除数据
    @Test
    public void testDelteData() throws IOException, SolrServerException {
        HttpSolrServer solrServer = new HttpSolrServer("http://localhost:8090/solr/products2");
        //solrServer.deleteById("10086");
        solrServer.deleteByQuery("product:10086");
        solrServer.commit();
    }

    //测试查询数据
    @Test
    public void testQueryDatas() throws SolrServerException {
        HttpSolrServer solrServer = new HttpSolrServer("http://localhost:8090/solr/products2");
        SolrQuery solrQuery = new SolrQuery();
        solrQuery.setQuery("product_name:花儿");
        QueryResponse queryResponse = solrServer.query(solrQuery);
        SolrDocumentList results = queryResponse.getResults();
        for(SolrDocument result:results){
//            System.out.println("result = " + result);
            Collection<String> fieldNames = result.getFieldNames();
            for(String fieldName:fieldNames){
                System.out.println(fieldName+" ---> " + result.get(fieldName));
            }
        }
    }

    //测试查询高亮度显示的数据
    @Test
    public void testQueryDatasHl() throws SolrServerException {
        HttpSolrServer solrServer = new HttpSolrServer("http://localhost:8090/solr/products2");

        SolrQuery solrQuery = new SolrQuery();
        solrQuery.setQuery("product_name:家居");
        solrQuery.setFields("product_name,product_price");
        solrQuery.setFilterQueries("product_price:[10 TO 100]");
        solrQuery.setSort("product_price",SolrQuery.ORDER.asc);
        solrQuery.setHighlight(true);
        solrQuery.set("hl.fl","product_name");

        QueryResponse queryResponse = solrServer.query(solrQuery);

        SolrDocumentList results = queryResponse.getResults();
        System.out.println("查询回来的数据量:" + results.size());

        for(SolrDocument result:results){
            Collection<String> fieldNames = result.getFieldNames();
            for(String fieldName:fieldNames){
                System.out.println(fieldName+"--->"+result.get(fieldName));
                System.out.println("----------------------");
            }
        }

        System.out.println("获取高亮数据:");
        Map<String, Map<String, List<String>>> highlighting = queryResponse.getHighlighting();
        Set<String> keySet1 = highlighting.keySet();
        for(String key1:keySet1){
            System.out.println("key1 = " + key1);
            Map<String, List<String>> map2 = highlighting.get(key1);
            System.out.println("map2 = " + map2);
            Set<String> keySet2 = map2.keySet();
            for(String key2:keySet2){
                System.out.println("key2 = " + key2);
            }
        }
    }
}