php扩展trie_filter 过滤关键词

最新推荐文章于 2023-11-01 08:11:43 发布

JSON_L

最新推荐文章于 2023-11-01 08:11:43 发布

阅读量2k

点赞数 1

分类专栏： PHP 文章标签： php-ext-trie_filter

PHP 专栏收录该内容

83 篇文章

订阅专栏

在项目中需要对用户传递过来的文字进行过滤敏感词，用到这个，今天有时间研究了一下，故写了这篇博客。
关键词过滤扩展，用于检查一段文本中是否出现敏感词，基于Double-Array Trie 树实现

安装 libdatrie , 需要 libdatrie-0.2.4 或更新的版本

它依赖 libiconv .

安装:

wget http://ftp.gnu.org/pub/gnu/libiconv/libiconv-1.14.tar.gz
tar -zxf libiconv-1.14.tar.gz
cd libiconv-1.14
./configure
make && make install

libdatrie 下载地址:
http://download.youkuaiyun.com/download/json_ligege/9870583
安装:

wget ftp://linux.thai.net/pub/ThaiLinux/software/libthai/libdatrie-0.2.4.tar.gz
tar -zxf libdatrie-0.2.4.tar.gz
cd libdatrie-0.2.4

./configure --prefix=/usr/local/libdatrie/
make ICONV_LIBS='/usr/local/lib/libiconv.so'
make install

安装 PHP 扩展

wget https://github.com/wulijun/php-ext-trie-filter/archive/master.zip
unzip master.zip
cd php-ext-trie-filter-master/
phpize
./configure --with-php-config=/usr/local/php/bin/php-config --with-trie_filter=/usr/local/libdatrie/
make && make install

将生成的 trie_filter.so 文件复制到 php 扩展目录,并在 php.ini 中添加该文件
安装完后，在 phpinfo 里可以看到 trie_filter 扩展
如图：

这样就安装成功了。
使用示例：

$arrWord = array('word1', 'word2', 'word3');
$resTrie = trie_filter_new(); //create an empty trie tree
foreach ($arrWord as $k => $v) {
    trie_filter_store($resTrie, $v);
}
// 生成关键词词典.
trie_filter_save($resTrie, __DIR__ . '/blackword.tree');

// 加载关键词词典，成功返回一个Trie_Filter 资源句柄，失败返回NULL 
$resTrie = trie_filter_load(__DIR__ . '/blackword.tree');

$strContent = 'hello word2 word1';
// 查找关键词
$arrRet = trie_filter_search($resTrie, $strContent);//每次只检测一个敏感词
print_r($arrRet); //Array(0 => 6, 1 => 5)

echo substr($strContent, $arrRet[0], $arrRet[1]); //word2

$arrRet = trie_filter_search_all($resTrie, $strContent);//一次把所有的敏感词都检测出来
print_r($arrRet); //Array(0 => Array(0 => 6, 1 => 5), 1 => Array(0 => 12, 1 => 5))

$arrRet = trie_filter_search($resTrie, 'hello word');
print_r($arrRet); //Array()

// 获得查找结果树
trie_filter_free($resTrie);

建议使用php5.3.3以上的版本，我使用的是5.3.3

使用5.2.17版本时候：trie_filter_search_all 这个函数可能会有错误