一步步搭建corseek服务

sphinx+coreseek安装配置 详细说明sphinx+coreseek安装、配置、php很用 立即下载
1、 corseek 是个神马东东?
    答:中文分词(sphinx)一定听过吧!corseek就是基于sphinx研发,专攻中文搜索和信息处理领域,并且是一款开源的软件!(好吧,承认是照搬的 官网解读)

2、为啥使用corseek?
    答:查询一个  “北京欢迎你” 获取的信息有 “北京” “欢迎” "北京欢迎你" 这样帮你分词并获取信息~其实功能不光如此,更多应用场景,遇到了再百度吧^_^

3、 开始喽
    setup1.     先去官网下载相关软件(没软件,咋搭建- -)
    下载地址:http://www.coreseek.cn/products-install/install_on_bsd_linux/  找到符合你的os对应的版本。
    由于公司采用的是debian,我下载的是: coreseek-4.1-beta版。
    将三方软件下载到 /opt/tar 下 
     解压到/opt 下
    # tar -zxvf coreseek-4.1-beta.tar.gz -C ../ 
     至此,软件的下载就完成了^_^ 恭喜一下自己吧~
    setup2.     开始学习安装corseek了!(确保自己在有大量空闲时间的情况下看哦!)
     ps:配置之前,先检查一下必须的软件是否符合要求:
     m4 >= 1.4.13
     autoconf >= 2.65
     automake >= 1.11
     libtool >= 2.2.6b
     debian 下 使用 dpkg -l 来查看软件版本
   ----------------------------------------------------------
  开始喽!
  1. 安装mmseg (分词软件,可以用来生成分词字典)
     # cd mmseg-3.2.14
     # ./bootstrap    (出现warning可以忽略,如果出现error就百度吧~)
    #./configure --prefix=/usr/local/mmseg3   (prefix=安装目录,根据需要自己设置)
    #make && make install
  2. 字典安装完,开始安装 coreseek
    #cd csft-4.1
    #sh buildconf.sh (执行shell脚本,warning可以忽略,出现error就百度吧~)
    # ./configure --prefix=/usr/local/coreseek  --without-unixodbc --with-mmseg --with-mmseg-includes=/usr/local/mmseg3/include/mmseg/ --with-mmseg-libs=/usr/local/mmseg3/lib/ --with-mysql (如果提示mysql问题,点我)
    执行完 会看到 Thank you for choosing Sphinx!
    #make && make install
    激动人心的时刻到来了!
     ##测试mmseg分词,coreseek搜索(需要预先设置好字符集为zh_CN.UTF-8,确保正确显示中文)
     #cd testpack
     #cat var/test/test.xml    #此时应该正确显示中文
     #/usr/local/mmseg3/bin/mmseg -d /usr/local/mmseg3/etc var/test/test.xml (字典相关)
     #/usr/local/coreseek/bin/indexer -c etc/csft.conf --all   (根据配置文件,创建索引 --all表示全部索引)
     #/usr/local/coreseek/bin/search -c etc/csft.conf 网络搜索 (测试 -c 配置文件)

    更多命令:
    #/usr/local/coreseek/bin/searchd -c etc/csft.conf --console (启动搜索,带有console的)
    #/usr/local/coreseek/bin/searchd -c etc/csft.conf(启动搜索进程,后台保持,可用ps aux | grep searchd查看)
    # /usr/local/coreseek/bin/searchd -c etc/csft.conf --stop(停止服务)
    # /usr/local/coreseek/bin/indexer -c 配置文件 索引名称(更新后台服务的索引,需要重启服务索引才会生效)
    # /usr/local/coreseek/bin/indexer -c 配置文件 索引名称(--all)(--rotate 此参数可以无需重启服务即可更新索引)
    
--------------------------------------- 至此 coreseek已经成功安装,恭喜一下自己吧~
    setup3.   linux的软件都是安装容易,配置麻烦~coreseek也不例外,现在来看如何配置一个中文分词服务
       
    主要分为2大块:
        1. 源定义    --》 提供数据的东东
        2. 索引定义  --》 根据源生成索引的东东
  ---------------------------
   插入一个小道消息:
     生成sphinx中文分词词库:
         1. 词典的构造 # mmseg -u unigram.txt 生成一个 unigram.txt.uni文件
                 2. 将文件改名为 uni.lib 完成词典的构造。 (unigram.txt必须为utf8)
        词典文件( unigram.txt )的格式:
          ....
河 187
x:187

造假者 1
x:1

台北队 1
x:1

湖边 1
......
A:每条记录分两行
B:第一行为词项,其格式为:[词条]\t[词频率] 对于单个字后面跟这个字作单字成词的频率,这个频率需要在大量的预先切分好的语料库中进行统计,用户增加或删除词时,一般不需要修改这个数值;对于非单字词,词频率处必须为1。( 简单来说就是 非单个字必须为1 单个字需要根据整体的出现频率来设定该值)
C:第二行为占位项,是由于 LibMMSeg库的代码是从Coreseek其他的分词算法库(N-gram模型)中改造而来的,在原来的应用中,第二行为该词在各种词性下的分布频率。LibMMSeg的用户只需要简单的在第二行处填"x:1"即可。( 简单来说就是 第二行的数字就是上面的词频率)

词库生成后,无需重启searchd服务
   ---------------------------------------     
继续看配置文件吧^_^
# 源
source pai
{
     type                   = mysql
     sql_host               = 172.16.11.27
     sql_user               = root
     sql_pass               =
     sql_db                 = gaokaopai
     sql_port               = 3306   # optional, default is 3306
     sql_sock               = /tmp/mysql.sock
     sql_query_pre          = SET NAMES utf8

     #创建主索引前更改标识位置
sql_query_pre          = replace into sph_counter \
          select 1, (max(id)) from volenteer
     # 查询的东东, 别名是用来进行sql_attr_*的
     sql_query              = SELECT id, id as sid, ask, category, ctime, answer from volenteer where \
id <= (select max_doc_id from \
sph_counter where counter_id=1) order by @$id desc
     # 这个部分不会被索引,但是可以通过这个属性对结果进行排序
sql_attr_uint  = sid
sql_attr_uint  = ctime
     # 查询到的id 用来查询需要的东西
     sql_query_info         = SELECT ask,id FROM volenteer WHERE id=$id
}

# 主索引
index pai
{
     source                 = pai #源名称
     path                   = /var/sphinx/index/pai   #索引存放的位置
     docinfo                = extern
     charset_type           = zh_cn.utf-8
     mlock                  = 0
     morphology             = none
     min_word_len           = 1                        # 最小词匹配
     html_strip             = 0
     charset_dictpath       = /usr/local/mmseg3/etc/   #字典路径
     ngram_len              = 0
}

#全局index定义
indexer
{
     mem_limit              = 32M
}

#searchd服务定义
searchd
{
     port                          = 9312
     log                           = /var/sphinx/log/pai/searchd.log
     query_log                     = /var/sphinx/log/pai/query.log
     read_timeout                  = 5
     max_children                  = 30
     pid_file                      = /var/sphinx/log/pai/searchd.pid
     max_matches                   = 1000
     seamless_rotate               = 1
     preopen_indexes               = 0
     unlink_old                    = 1
     compat_sphinxql_magics        = 0
}
   
    配置文件的每个具体的含义百度看下吧。。其实 sphinx的配置方法有好几个类别,这里才用最简单的,没包括什么增量索引啥的。
     setup4.     thinkphp使用sphinxapi查询
    这里以高考派的项目目录结构为例:
            pai\App\Lib\Vendor\Sphinx
              ---- \ libsphinxclient
               ----  sphinxapi.php
   

好了、至此 一个最简单的sphinx服务 以及 api调用 就出来了~ 更多细节等待达人补充吧^_^


coreseek4.1 支持多音字拼音索引 win64 Coreseek 是一款中文全文检索/搜索软件,以GPLv2许可协议开源发布,基于Sphinx研发并独立发布,专攻中文搜索和信息处理领域,适用于行业/垂直搜索、论坛/站内搜索、数据库搜索、文档/文献检索、信息检索、数据挖掘等应用场景。我们不仅可以免费下载使用,也可以对其提供的源代码进行修改,使其更符合我们的搜索要求。 本人在此基础上加上了拼音索引。具体使用方法见我的博客。http://blog.youkuaiyun.com/kangrydotnet/article/details/10829291。此为win64编译程序(2版,支持utf-8多音字,解决了一个内存泄露的bug)。win32(1版)下载地址:http://download.youkuaiyun.com/detail/wangshaner1/6192947 立即下载

相关推荐

Sphinx全文索引安装教程

基 本上看看上面的官方教程和中文使用手册,你应该会安装和使用Sphix全文索引,当然,还有一些细节,需要不断的google和baidu,那为了节省大 家的时间,就出一个完整的Sphinx安装教程和结合PHPWIND程序的使用教程(PHPWIND7.5版本支持)

CoreSeek(全文检索引擎 Sphinx 中文版)安装使用指南(CentOS6.5)

Coreseek 是一款中文全文检索/搜索软件,以GPLv2许可协议开源发布,基于Sphinx研发并独立发布,专攻中文搜索和信息处理领域,适用于行业/垂直搜索、论坛/站内搜索、数据库搜索、文档/文献检索、信息检索、数据挖掘等应用场景,用户可以免费下载使用。coreseek安装需要预装的软件

斗战圣Q 1万+

Python实现高光谱图像生成与增强:从RGB到多光谱转换(附完整代码)

本文分享一个基于Python的实用工具,能够将普通RGB图像转换为模拟高光谱图像,并进一步生成增强的彩色可见图像。为了直观展示图像细节,程序通过对特定波段的组合,生成了一幅增强的 RGB 彩色图像。该函数的主要目标是将一张普通的 RGB 图像转换为包含多个波段的高光谱图像。通过该函数,我们能直观地看到高光谱图像经过波段组合后所得到的彩色图像效果。通过以上代码,我们可以实现对海量图像数据的自动化处理,极大地提升工作效率。已附在文中,欢迎下载测试!通过以上步骤,我们可以生成一幅包含多个光谱波段信息的图像。

m0_74824642的博客 3665

Windows下Coreseek4.1环境搭建及运行(提供压缩包地址)

很遗憾,coreseek官网因未知原因打不开了。貌似也不是短时间的事情,难道是开发者放弃coreseek了? 闲话少说,笔者在搭建完sphinx后,因为中文分词的原因总觉得美中不足,于是千方百计的找到了coreseek的win32安装包。 安装包地址 下载后解压到相应目录,我这里安装的是在F:/coreseek下。so下面凡是涉及到路径的地方一定要注意修改哦! 下载解压后,把F:/cor...

WDSS 2783

芯片低功耗设计实战:CPF与UPF流程选择指南(附工具对比)

本文深入探讨了芯片低功耗设计实战中CPF与UPF流程的选择策略。文章从两者本质差异与演进脉络出发,结合Cadence与Synopsys工具链的深度支持实况,为工程师提供了基于项目场景的决策框架。重点分析了在混合工具链环境下如何实施流程与验证,并强调了利用Spyglass等工具确保功耗意图无损传递的关键技巧,旨在帮助团队做出明智的流程抉择,提升设计效率与可靠性。

weixin_29197051的博客 405

基于STM32F103的二维码识别项目——OV7670篇

此系列用于记录做过的项目,这篇文章介绍基于STM32F103的二维码识别项目之OV7670FIFO模块。

beyourself_he的博客 4288

更新词汇至Unigram词表进行识别

from:http://blog.youkuaiyun.com/lifesider/article/details/6553096 完成CMU Sphinx Toolkit到UNICODE的移植后,由于其自身支持的中文词汇太少且过于简单,实际生活中的很多词汇无法识别,由于其缺少开发文档,只能在代码跟踪的过程里心烦了。   于是想,肯定需要在词典文件中增加新词汇吧,如果其本身是按照Ciphon

凌风探梅的专栏 1331

FPGA实现Gardner环定时同步:Verilog代码与Testbench实战解析

本文深入解析了在FPGA上实现Gardner环定时同步的完整过程,详细阐述了其非数据辅助的定时误差检测原理。通过Verilog代码实战,展示了内插滤波器、定时误差检测器、环路滤波器和数控振荡器等核心模块的设计,并提供了完整的Testbench验证方法,帮助开发者解决数字通信系统中的时钟同步难题。

gpt4scribbler的博客 576

sphinx 配置文件全解析

sphinx的配置文件是在配置的时候最容易出错的了: 我们先要明白几个概念: source:数据源,数据是从什么地方来的。 index:索引,当有数据源之后,从数据源处构建索引。索引实际上就是相当于一个字典检索。有了整本字典内容以后,才会有字典检索。 searchd:提供搜索查询服务。它一般是以deamon的形式运行在后台的。 indexer:构建索引的服务。当要重新构建索引的时候,就是调用in...

weixin_33966095的博客 464

区块链技术与应用 【全国职业院校技能大赛国赛题目解析】Caliper从0到使用

技能大赛样题解析,caliper题目从0到使用

weixin_52865146的博客 2076

基于STM32设计的物联网疫苗冷链物流监测系统

本设计基于物联网技术,开发了一套疫苗冷链物流环境监测系统。系统采用STM32F103C8T6作为主控芯片,集成SHT30温湿度传感器、震动传感器、GPS定位模块和4G通信模块,实现对运输环境的温度、湿度及震动状况的实时监测与控制。通过继电器驱动半导体制冷模块和加湿器,系统能够自动调节环境温湿度,保障疫苗运输的安全性。采集的环境数据通过MQTT协议上传至华为云物联网平台,配套开发的Android手机APP和Windows上位机软件基于Qt平台设计,支持远程实时查看环境数据和车辆定位,提升了疫苗冷链运输的智能化

862

LibMMSeg mmseg分词库生成说明

【原文】 词典的构造 mmseg -u unigram.txt 该命令执行后,将会在unigram.txt所在目录中产生一个名为unigram.txt.uni的文件,将该文件改名为uni.lib,完成词典的构造。需要注意的是,unigram.txt需要预先准备,并且编码格式必须为UTF-8编码。 词典文件格式: .... 河 187 x:187 造假者 1 x:1 台北队...

经验之谈,不做搬运工 484

华为OD机试 - 矩形绘制 - 数组、坐标偏移(Python/JS/C/C++ 双机位C卷 100分)

本专栏收录于《华为OD机试真题(Python/JS/C/C++)》。刷的越多,抽中的概率越大,私信哪吒,备注华为OD,加入华为OD刷题交流群,每一题都有详细的答题思路、详细的代码注释、3个测试用例、为什么这道题采用XX算法、XX算法的适用场景,发现新题目,随时更新。实现一个简单的绘图模块,绘图模块仅支持矩形的绘制和擦除。 当新绘制的矩形与已有图形重叠时,对图形取并集; 当新擦除的矩形与已有图形重叠时,对图形取差集。 给定一系列绘制和擦除操作,计算最终图形的面积。第一行为操作数N,接下来的N行格式为:d x1

学Java,找哪吒 835

Corseek中文全文检索的安装使用

Corseek的安装使用 第一步: 从www.coreseek.com下载coreseek 4.1,并解压到电脑上的任一个目录,如下所示 这样就算安装好了:) 第二步 编辑配置文件 csft_mysql.conf #定义名称为goods_src的数据源 source goods_src { type ...

allforever2010的博客 192

SAP 业务技术平台(BTP) Workflow(工作流)功能介绍

这背后其实发生了很多事情:Workflow 应用里 Determine Equipment Service Task 得到执行,通过 HTTP POST,消费部署在 SAP BTP 上的 Business Rules Service,后者根据我们在 Start New Instance 里传入的 Sample Data,返回自动决定出的设备明细。关于这个 SAP BTP 开发工具的更多介绍,参考我的文章:SAP 新一代全栈开发工具:SAP Business Application Studio.

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 8752

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

mysql coreseek_Coreseek使用

到这个链接下下载会得到coreseek-4.1-win32文件,把他解压到C:\usr\local\目录下将文件 C:\usrlocal\coreseek-4.1-win32\var\test\documents.sql 导入到mysql中test(这个数据库可以根据你自己的来设置)数据库中。编辑文件 C:\usr\local\coreseek-4.1-win32\etc\csft_mysql.c...

weixin_32307599的博客 245

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

Sphinx中文分词安装配置及API调用

这几天项目中需要重新做一个关于商品的全文搜索功能,于是想到了用Sphinx,因为需要中文分词,所以选择了Sphinx for chinese,当然你也可以选择coreseek,建议这两个中选择一个,暂时不要选择原版Sphinx(对中文的支持不是很好).又因为服务器所用 MySQL在当时编译时并没有编译Sphinx扩展,而重新编译MySQL并加入Sphinx暂时又无法实现(项目用到了多台服务器,在不...

weixin_34268843的博客 106

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

coreseek增量索引

表  CREATE table sph_counter(counter_id int auto_increment key ,max_id int )engine=myisam default charset=utf8;   配置文件csft.conf # # Minimal Sphinx configuration sample (clean, simple, functional) # ...

weixin_34220834的博客 107

如何在mmseg3添加词库

一、了解几个文件 ll /usr/local/mmseg/etc/mmseg.iniuni.lib   编译后的词库,给sphinx 用的unigram.txt   原词库给人看的, 在这里面人工添加自己的词库 二、添加词条,格式如下 vim/usr/local/mmseg/etc/unigram.txt 邯郸王队  1   //[词条]\t[词频率]x:1   /...

anhe0516的博客 315

coreseek 的安装使用

Corseek的安装使用 第一步: 从www.coreseek.com 下载coreseek 4.1,并解压到电脑上的任一个目录,如下所示       这样就算安装好了:) 第二步 编辑配置文件 csft_mysql.conf #定义名称为goods_src的数据源 source goods_src   {     type                    = m

Smile李先生 406

CoreSeek详细入门教程

centos6操作系统 Coreseek 是一款中文全文检索/搜索软件,以GPLv2许可协议开源发布,基于Sphinx研发并独立发布,专攻中文搜索和信息处理领域,适用于行业/垂直搜索、论坛/站内搜索、数据库搜索、文档/文献检索、信息检索、数据挖掘等应用场景,用户可以免费下载使用。 coreseek安装需要预装的软件: yum install make gcc g++ gcc-c++ libt...

m493096871的博客 8235

coreseek 安装及使用方法详解

coreseek 安装及使用 一般站点都需要搜索功能,如果是php+mysql站点,建议选择coreseek,如果是java站点建议使用lucene,coreseek 是一款很好的中文全文检索/搜索软件,支持高速建立索引、有很强的扩展性、支持分布式检索,支持不同的搜索模式(’完全匹配’,’短语匹配’,’任一匹配’)。 logo1 如果下面的过程遇到问题,请参考 coresee

slqgenius的博客 1833

Coreseek中自定义mmseg分词

http://www.pangxieke.com/linux/673.html#respond 因为项目需要使用中文搜索,觉得使用coreseek实现,其中使用mmseg 分词库 但是mmseg原词库不适合电商项目,所以决定自定义分词库。 1.下载搜狗词库,例如有淘宝专用词库 http://pinyin.sogou.com/dict/detail/index/22416,

萧刚 1334

mmseg 增加词库

/usr/local/mmseg/etc 这个目录下 1、了解几个文件 mmseg.ini  unigram.txt  uni.lib uni.lib  --------- 编译后的词库 unigram.txt ----  原词库给人看的, 在这里面添加词库 2、添加词条 海斯队 1 x:1 丝路   1 x:1 令人心悸        1 x:1 3、重新编

Hani的 编程生活 1106
上一篇: Python——UnicodeEncodeError: 'ascii' codec can't encode/decode characters
下一篇: mysql,正序查询并且0排在最后
关澄
博客等级 码龄15年 8粉丝 49原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值