一个Python的轻量级搜索工具--Whose

python全文检索库:whoosh Schema 定义了索引的结构,包括字段名称和类型。我的理解就是相当于数据库的建表操作其中stored用于指明是否存储该项的具体值如果为True可以再搜索结果中直接访问到这个字段如果为False的话就只能进行搜索,但是在结果中是无法直接访问具体内容的。原因是倒排索引本身只会建立词元到记录之间的映射关系,并不会保存记录本身。要显示保存记录才能在搜索结果中访问。 阅读详情

本文将简单介绍 Python 中的一个轻量级搜索工具 Whoosh,并给出相应的使用示例代码。

Whoosh 简介


Whoosh 由 Matt Chaput 创建,它一开始是一个为 Houdini 3D 动画软件包的在线文档提供简单、快速的搜索服务工具,之后便慢慢成为一个成熟的搜索解决工具并已开源。

Whoosh 纯由 Python 编写而成,是一个灵活的,方便的,轻量级的搜索引擎工具,现在同时支持 Python2、3,其优点如下:

  • Whoosh 纯由 Python 编写而成,但很快,只需要 Python 环境即可,不需要编译器;

  • 默认使用 Okapi BM25F 排序算法,也支持其他排序算法;

  • 相比于其他搜索引擎,Whoosh 会创建更小的 index 文件;

  • Whoosh 中的 index 文件编码必须是 unicode;

  • Whoosh 可以储存任意的 Python 对象。

Whoosh 的官方介绍网站为:https://whoosh.readthedocs.io/en/latest/intro.html 。相比于 ElasticSearch 或者 Solr 等成熟的搜索引擎工具,Whoosh 显得更轻便,操作更简单,可以考虑在小型的搜索项目中使用。

Index & query


对于熟悉 ES 的人来说,搜索的两个重要的方面为 mapping 和 query,也就是索引的构建以及查询,背后是复杂的索引储存、query 解析以及排序算法等。如果你有 ES 方面的经验,那么,对于 Whoosh 是十分容易上手的。

按照笔者的理解以及 Whoosh 的官方文档,Whoosh 的入门使用主要是 index 以及 query。搜索引擎的强大功能之一在于它能够提供全文检索,这依赖于排序算法,比如 BM25,也依赖于我们怎样储存字段。因此,index 作为名词时,是指字段的索引,index 作为动词时,是指建立字段的索引。而 query 会将我们需要查询的语句,通过排序算法,给出合理的搜索结果。

关于 Whoosh 的使用,在官文文档中已经给出了详细的说明,笔者在这里只给出一个简单的例子,来说明 Whoosh 如何能方便地提升我们的搜索体验。

示例代码


数据

本项目的示例数据为 poem.csv,下图为该数据集的前十行:

图片

poem.csv

字段

根据数据集的特征,我们创建四个字段(fields):title, dynasty, poet, content。创建的代码如下:

# -*- coding: utf-8 -*-  
import os  
from whoosh.index import create_in  
from whoosh.fields import *  
from jieba.analyse import ChineseAnalyzer  
import json  
  
# 创建schema, stored为True表示能够被检索  
schema = Schema(title=TEXT(stored=True, analyzer=ChineseAnalyzer()),  
                dynasty=ID(stored=True),  
                poet=ID(stored=True),  
                content=TEXT(stored=True, analyzer=ChineseAnalyzer())  
                )  

其中,ID 只能为一个单元值,不能分割为若干个词,常用于文件路径、URL、日期、分类;
TEXT 文件的文本内容,建立文本的索引并存储,支持词汇搜索;Analyzer 选择结巴中文分词器。

创建索引文件

接着,我们需要创建索引文件。我们利用程序先解析 poem.csv 文件,并将它转化为 index,写入到 indexdir 目录下。Python 代码如下:

# 解析poem.csv文件  
with open('poem.csv', 'r', encoding='utf-8') as f:  
    texts = [_.strip().split(',') for _ in f.readlines() if len(_.strip().split(',')) == 4]  
  
# 存储schema信息至indexdir目录  
indexdir = 'indexdir/'  
if not os.path.exists(indexdir):  
    os.mkdir(indexdir)  
ix = create_in(indexdir, schema)  
  
# 按照schema定义信息,增加需要建立索引的文档  
writer = ix.writer()  
for i in range(1, len(texts)):  
    title, dynasty, poet, content = texts[i]  
    writer.add_document(title=title, dynasty=dynasty, poet=poet, content=content)  
writer.commit()  

index 创建成功后,会生成 indexdir 目录,里面含有上述 poem.csv 数据的各个字段的索引文件。

查询

index 创建成功后,我们就利用进行查询。
比如我们想要查询 content 中含有明月的诗句,可以输入以下代码:

# 创建一个检索器  
searcher = ix.searcher()  
  
# 检索content中出现'明月'的文档  
results = searcher.find("content", "明月")  
print('一共发现%d份文档。' % len(results))  
for i in range(min(10, len(results))):  
    print(json.dumps(results[i].fields(), ensure_ascii=False))  

输出结果如下:

一共发现44份文档。
前10份文档如下:
{“content”: “床前明月光,疑是地上霜。举头望明月,低头思故乡。”, “dynasty”: “唐代”, “poet”: "李白 ", “title”: “静夜思”}
{“content”: “边草,边草,边草尽来兵老。山南山北雪晴,千里万里月明。明月,明月,胡笳一声愁绝。”, “dynasty”: “唐代”, “poet”: "戴叔伦 ", “title”: “调笑令·边草”}
{“content”: “独坐幽篁里,弹琴复长啸。深林人不知,明月来相照。”, “dynasty”: “唐代”, “poet”: "王维 ", “title”: “竹里馆”}
{“content”: “汉江明月照归人,万里秋风一叶身。休把客衣轻浣濯,此中犹有帝京尘。”, “dynasty”: “明代”, “poet”: "边贡 ", “title”: “重赠吴国宾”}
{“content”: “秦时明月汉时关,万里长征人未还。但使龙城飞将在,不教胡马度阴山。”, “dynasty”: “唐代”, “poet”: "王昌龄 ", “title”: “出塞二首·其一”}
{“content”: “京口瓜洲一水间,钟山只隔数重山。春风又绿江南岸,明月何时照我还?”, “dynasty”: “宋代”, “poet”: "王安石 ", “title”: “泊船瓜洲”}
{“content”: “四顾山光接水光,凭栏十里芰荷香。清风明月无人管,并作南楼一味凉。”, “dynasty”: “宋代”, “poet”: "黄庭坚 ", “title”: “鄂州南楼书事”}
{“content”: “青山隐隐水迢迢,秋尽江南草未凋。二十四桥明月夜,玉人何处教吹箫?”, “dynasty”: “唐代”, “poet”: "杜牧 ", “title”: “寄扬州韩绰判官”}
{“content”: “露气寒光集,微阳下楚丘。猿啼洞庭树,人在木兰舟。广泽生明月,苍山夹乱流。云中君不见,竟夕自悲秋。”, “dynasty”: “唐代”, “poet”: "马戴 ", “title”: “楚江怀古三首·其一”}
{“content”: "海上生明月,天涯共此时。情人怨遥夜,竟夕起相思。灭烛怜光满,披衣觉露滋。不堪盈手赠

以上就是“一个Python的轻量级搜索工具–Whose”的全部内容,希望对你有所帮助。
​
​关于Python技术储备

学好 Python 不论是就业还是做副业赚钱都不错,但要学会 Python 还是要有一个学习规划。最后大家分享一份全套的 Python 学习资料,给那些想学习 Python 的小伙伴们一点帮助!

一、Python所有方向的学习路线

Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。

在这里插入图片描述

二、Python必备开发工具

img

三、Python视频合集

观看零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

img

四、实战案例

光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

img

五、Python练习题

检查学习结果。

img

六、面试资料

我们学习Python必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。

img

最后祝大家天天进步!!

上面这份完整版的Python全套学习资料已经上传至优快云官方,朋友如果需要可以直接微信扫描下方优快云官方认证二维码免费领取【保证100%免费】。

【Python】Whoosh:全流程自建搜索引擎 在创建索引之前,首先需要定义架构。这可以通过模块来实现。FieldType描述使用场景TEXT存储文本内容,支持分词和搜索文章内容、评论、描述等文本字段ID存储唯一标识符,通常用于标识文档文档ID、路径、用户ID等NUMERIC存储数字值,可以用于范围查询年龄、价格、评分等数值字段BOOLEAN存储布尔值(True/False)标记状态、启用/禁用等DATETIME存储日期和时间,支持日期范围查询创建时间、更新时间等KEYWORD存储单一值的关键字,适合用于精确匹配。 阅读详情

相关推荐

Python全文搜索库:Whoosh和Haystack

Python全文搜索库:Whoosh和Haystack 1.背景介绍 1.1 什么是全文搜索? 全文搜索(Full-Text Search)是一种在大量非结构化或半结构化的数据中查找相关信息的技术。与传统的数据库查询不

AI天才研究院 1751

python的全文检索库Whoosh使用示例

pip install whoosh 首先,我有一个xiaoshuo文件夹,装了几部小说 直接上代码: 首先是创建索引的文件 from whoosh.filedb.filestore import FileStorage from whoosh.fields import * from jieba.analyse import ChineseAnalyzer import os analy...

李孟笛的博客 2366

多雷达协同探测技术研究进展:认知跟踪与资源调度算法

源自:雷达学报作者:易伟 袁野 刘光宏 葛建军 孔令讲 杨建宇雷达是信息感知的千里眼,具有极高的军用和民用价值,广泛应用在防空预警、遥感测绘、反恐维稳等领域[1–5]。雷达信息获取与探测技术也一直是大国竞相抢占的前沿技术,同时是信息科学的重要组成部分。随着科学技术不断进步,先进电子对抗装备的不断问世和广泛列装,雷达的生存与发展正面临日益严峻的挑战。从生存环境上看,雷达面临通信等各类民用电磁干扰以及复杂的军用电磁干扰;从探测对象上看,集群、微弱、隐身、高空、低空等多样化目标的出现也给雷达探测与识别带来困难。

renhongxia1的博客 2783

Python之利用Whoosh搭建轻量级搜索

  本文将简单介绍Python中的一个轻量级搜索工具Whoosh,并给出相应的使用示例代码。 Whoosh简介   Whoosh由Matt Chaput创建,它一开始是一个为Houdini 3D动画软件包的在线文档提供简单、快速的搜索服务工具,之后便慢慢成为一个成熟的搜索解决工具并已开源。   Whoosh纯由Python编写而成,是一个灵活的,方便的,轻量级的搜索引擎工具,现在同时支持Pytho...

山阴少年 1735

Linux中断子系统(二)—— 通用框架处理

1、数据结构分析 (1)中断描述符结构structirq_desc: 1)打开CONFIG_SPARSE_IRQ宏(中断编号不连续),中断描述符以radix- tree来组织,用户在初始化时进行动态分配,然后再插入radix-tree中; 2)关闭CONFIG_SPARSE_IRQ宏(中断编号连续),中断描述符以数组的 形式组织,并且已经分配好; 3)不管哪种形式,最终都可以通过linuxirq号来找到对应的中断描述符; (2)stru...

weixin_38428439的博客 4871

软考-高级-信息系统项目管理第四版(完整24章全笔记)

包 括:信息系统、业务应用信息系统、信息安全系统、信息系统工程、业务应用信息系统工程和 信息安全系统工程等业务应用信息系统是支撑业务运营的计算机应用信息系统,信息安全系统工程是指为了达到建设好信息安全系统的特殊需要而组织实施的工程。项目经理由执行组织委派, 负责领导团队实现项目目标。①制定项目章程:②制订项目管理计划:③指导与管理项目工作:④管理项目知识:⑤监控项目工作:⑥实施整体变更控制:项目范围管理过程包括:规划范围管理;收集需求;定义范围;创 建WBS;确认范围;控制范围;

weixin_44934104的博客 3万+

一个 Python 的轻量级搜索工具 -- Whose

Whoosh 由 Matt Chaput 创建,它一开始是一个为 Houdini 3D 动画软件包的在线文档提供简单、快速的搜索服务工具,之后便慢慢成为一个成熟的搜索解决工具并已开源。Whoosh 纯由 Python 编写而成,是一个灵活的,方便的,轻量级的搜索引擎工具,现在同时支持 Python2、3,其优点如下:Whoosh 纯由 Python 编写而成,但很快,只需要 Python 环境即可,不需要编译器;默认使用 Okapi BM25F 排序算法,也支持其他排序算法;

weixin_53707653的博客 1175

反序列化漏洞详解

目录 一、什么是序列化和反序列化 二、什么是反序列化漏洞 三、序列化函数(serialize) 四、反序列化(unserialize) ​五、什么是PHP魔术方法 六、一些常见的魔术方法 七、魔术方法的利用 八、反序列化漏洞的利用 1.__destruct()函数 2.__wakeup() 3.toString() ​九、反序列化漏洞的防御 一、什么是序列化和反序列化 序列化是将对象转换为字符串以便存储传输的一种方式。而反序列化恰好就是序列化的逆过程,反序列化会将字符串.

LJH1999ZN的博客 3万+

Python 的轻量级搜索工具 -- Whose

按照笔者的理解以及 Whoosh 的官方文档,Whoosh 的入门使用主要是 index 以及 query。因此,index 作为名词时,是指字段的索引,index 作为动词时,是指建立字段的索引。对于熟悉 ES 的人来说,搜索的两个重要的方面为 mapping 和 query,也就是索引的构建以及查询,背后是复杂的索引储存、query 解析以及排序算法等。关于 Whoosh 的使用,在官文文档中已经给出了详细的说明,笔者在这里只给出一个简单的例子,来说明 Whoosh 如何能方便地提升我们的搜索体验。

朱雀随云记的博客 1199

第二十届全国大学生智能汽车竞赛极速光电组:MicroPython与恩智浦RT1021的硬件编程实战指南

本文为参加第二十届全国大学生智能汽车竞赛极速光电组的同学提供了一份详尽的MicroPython与恩智浦RT1021硬件编程实战指南。文章深入剖析了选择MicroPython与RT1021这对组合的优势,详细讲解了从开发环境搭建、基础硬件控制(如GPIO、PWM、编码器、CCD)到系统集成(平衡控制、循迹算法)与多任务调试的全过程,旨在帮助参赛者降低嵌入式开发门槛,高效备赛。

wdx0123456的博客 843

STM32串口调试踩坑记:HAL_UART_ErrorCallback里不先解锁,你的中断接收就废了

本文深入分析了STM32串口调试中HAL_UART_ErrorCallback的锁机制陷阱,指出在错误回调中不先解锁会导致中断接收失效的问题。通过解析HAL库源码,提出了正确的错误处理实现方法,并分享了预防措施与最佳实践,帮助开发者提升串口通信的可靠性。

weixin_33733810的博客 513

Whose,一个 Python 的轻量级搜索工具!

转自Python编程时光本文将简单介绍 Python 中的一个轻量级搜索工具 Whoosh,并给出相应的使用示例代码。# Whoosh 简介Whoosh 由 Matt Chaput 创建,它一开始是一个为 Houdini 3D 动画软件包的在线文档提供简单、快速的搜索服务工具,之后便慢慢成为一个成熟的搜索解决工具并已开源。Whoosh 纯由 Python 编写而成,是一个灵活的,方便的,轻量级的搜...

机器学习算法与Python学习 269

ANSYS APDL学习(6):ANSYS APDL部分命令流介绍

介绍APDL 部分命令流

娱乐至上的博客 1万+

python轻量级ORM---peewee

peewee是一个轻量级的ORM。用的是大名鼎鼎的sqlalchemy内核,采用纯python编写,显得十分轻便。为了后续方便查看,在这里简单记录下~~ peewee不仅轻量级,还提供了多种数据库的访问,如SqliteDatabase(file or memory)、MYSQLDatabase、PostgresqlDatabase; 接下来就从API上路吧~~~ 1. class

职场里拉开差距的不是知识,而是认知! 1万+

Android15车载系统开机冷启动流程源码解析

本文主要介绍Android15车机系统开机冷启动的流程,暂不包含bootloader,仅从kernel开始直至Launcher首页展示。

jidapenglin28的专栏 253

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

Python3.8退役在即,你准备好了吗?

https://pythonspeed.com/articles/stop-using-python-3.8发布将在3.8 发布5 年后停止。也就是说,2024 年10月是Python 3.8 版本发布的最后一个月,从2024 年10月开始,如果存在安全错误,Python 开发团队将不会修复该错误。截至 2024 年 9 月,从 PyPI 下载的软件包中约有 14% 适用于 Python 3...

机器学习算法与Python学习 956

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

GPT-5.4工具调用失准原因与CLI修复方案

工具调用(tool call)是大模型智能体落地的核心能力,其原理已从静态匹配演进为基于语义理解的动态检索(tool search)。GPT-5.4引入的这一机制依赖高质量工具描述(description)和精简上下文注入,但Codex CLI仍沿用粗粒度、全量拼接的旧式工具注入方式,导致描述噪声高、语义锚点缺失,引发系统性调用偏航。该问题在终端CLI环境高频复现,却在ChatGPT网页版与API SDK中表现稳定,凸显客户端协议层与模型新范式的代际错配。本文聚焦tool search原理与CLI工程实践,

weixin_33749242的博客 1951

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

上一篇: Python Web框架的三强之争:Flask、Django和FastAPI
下一篇: 终于见识到 Python 的天花板
壹只小小码农
博客等级 码龄5年 8101粉丝 1334原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值