笔记分享: 西安交通大学COMP551705数据仓库与数据挖掘——02. 关联规则挖掘

有关 $\text{Github}$仓库，欢迎来 $\text{Star}$

$\text{1. }$基本概念

1️⃣关联规则挖掘

1. 含义：从事务数据库中发现项集之间有趣的关联
2. 定义：对于$Y\text{⊆}I/X\text{⊆}{T}_i$且$X\text{∩}Y\text{=}\varnothing$，$X\text{→}Y$表示既然$T_i$中含$X$则也(以一定支持/置信度)含$Y$

   集合	含义	示例
   项集$I$	I = { i 1 , i 2 , ⋯   , i m } I\text{=}\left\{i_1, i_2, \cdots, i_m\right\} I={ i1​,i2​,⋯,im​}	超市中的所有商品
   事务集$D$	D = { T 1 , T 2 , ⋯   , T n } D\text{=}\left\{T_1, T_2, \cdots, T_n\right\} D={ T1​,T2​,⋯,Tn​}且$T_i\text{⊆}I$	所有交易($T_i$为第$i$次交易结算商品)
   事务包含项集$X$	$X\text{⊆}I$且$X\text{⊆}{T}_i$	每次交易所结算的(部分)商品

3. 表示：
   • 数学表示：$A\text{→}B[S,C]$ (当$SC$都超过阈值时认为该规则强相关)
   • 可视化图：
     

2️⃣规则度量

1. 客观度量：

   $\text{Item}$	公式	含义
   支持度	$S(A\text{→}B)\text{=}P(A\text{∩}B)$, $S(A)\text{=}P(A)$	所有事务中，有多少事务同时含$AB$/含$A$
   置信度	$C(A\text{→}B)\text{=}\frac{P(A\text{∩}B)}{P(A)}$	在包含$A$的事务中，有多少同时还含$B$

   • 示例：$\begin{array}{cc}\text{TID}& \text{Item}\\ 2000& A,B,C\\ 1000& A,C\\ 4000& A,D\\ 5000& B,E,F\end{array}\text{ ⇒ }\{\begin{array}{l}P(A)=\frac{3}{4}\\ P(A\cap B)=\frac{1}{4}\end{array}\text{ ⇒ }A\to B\left[\frac{1}{4},\frac{1}{3}\right]$
2. 主观度量：个人常识/实际情况…

3️⃣关联规则/相关性/因果关系

1. 关联规则/相关性
   • 相关性衡量：$\text{Lift}(A,B)\text{=}\frac{P(A\text{∪}A)}{P(A)P(B)}\text{→}\{\begin{array}{l}\text{＜}1\text{→}AB负相关\\ \\ \text{=}1\text{→}AB无相关\\ \\ \text{>}1\text{→}AB正相关\end{array}$
   • 二者关系：强关联规则$\text{≠} $正相关
     
2. 关联规则/因果关系：二者无关，但相关性有助于为发现因果关系提供线索

$\text{2. }$布尔关联规则

$\text{2.1. }$一些基本概念

1️⃣频繁项集

1. 定义：$X$频繁$\stackrel{等价于}{\iff }$事务集$D$中含$X$的$T_i$数量($X$支持度)超过阈值$\stackrel{等价于}{\iff }X$满足最小支持度
2. 性质：
   • 如果$X$频繁$\text{→}X$的子集也一定频繁(向下封闭)
   • 如果$X$非频繁$\text{→}X$的超集(如 { X , x n + 1 , x n + 2 , . . . } \{X,x_{n+1},x_{n+2},...\} { X,xn+1​,xn+2​,...})也一定非频繁

2️⃣闭合集$\&$最大集：为解决组合爆炸($规则数目\text{ ∝ }{2}^{数据集规模}$)问题

1. 定义：对于事务集$D$

   集合	含义	意义
   闭合集(模式)	$X$闭合$\stackrel{等价于}{\iff }X$频繁$\text{∩}X$所有超集的支持度小于$X$的	$D$无损压缩
   最大集(模式)	$X$最大$\stackrel{等价于}{\iff }X$频繁$\text{∩}X$所有超集都非频繁	$D$有损压缩

2. 示例： D = { A 1 = ⟨ a 1 , a 2 , … , a 100 ⟩ , A 2 = ⟨ a 1 , a 2 , … , a 50 ⟩ } D\text{=}\left\{A_1\text{=}\left\langle a_1, a_2, \ldots, a_{100}\right\rangle,A_2\text{=}\left\langle a_1, a_2, \ldots, a_{50}\right\rangle\right\} D={ A1​=⟨a1​,a2​,…,a100​⟩,A2​