基于伽罗瓦(概念)格及互补方法的元分类器规则验证
一、引言
如今,电子数据呈现爆炸式增长,几乎所有事物(如杂货记录、医疗文件、汽车维修历史等)都被记录在数据库中以便未来分析。虽然存在许多集中式数据挖掘工具,但随着数据库规模的不断增大,这些工具的处理时间变得极长。因此,分布式数据挖掘工具应运而生,它既适用于本身就是分布式的数据,又能加快处理速度。
我们提出从一组独立数据库 ${DB_i}$ 中生成一个元分类器 $R = \cup_iC_i$,其中每个 $C_i$ 是一个由规则集构成的分类器。这个规则集 $R$ 可以进一步进行细化和验证。细化步骤旨在根据统计方法计算的置信系数,从 $R$ 中移除那些在处理新对象时预测能力不佳的规则。而验证步骤则是本文的核心,它使用一些样本对细化步骤得到的规则集进行微调。本文提出了两种验证技术,一种非常简单,另一种则使用了伽罗瓦格。
二、现有技术
规则集既可以作为预测工具,也可以作为描述工具。一些纯预测技术,如装袋(bagging)、提升(boosting)、堆叠(stacking)以及仲裁器和组合器方法,由于不具备描述性,与本文无关。同时,像 Ruler 系统、分布式学习系统和碎片化方法等技术,也因不符合分布式数据挖掘的背景而被忽略。
与我们的技术最接近的现有技术有:
- MIL 算法;
- 分布式规则学习器技术;
- 前两种技术的混合。
这些技术生成的是一组不相交的覆盖规则,即任何对象只会触发一条规则,而我们的技术则解除了这个限制。虽然这样做需要处理“冲突”规则,但可以通过多数投票以极低的计算成本实现有效的裁决机制。由于这些技术不需要验证规则集,本文不再详
超级会员免费看
订阅专栏 解锁全文
1067

被折叠的 条评论
为什么被折叠?



