20、人工神经网络与决策树在图像数据挖掘中的应用

人工神经网络与决策树在图像数据挖掘中的应用

1. 人工神经网络（ANN）与卷积神经网络（CNN）

人工神经网络（ANN）是一种强大的非线性分类器，它通过将多个线性分类器分层组合而成。然而，过去ANN的应用受到两方面的阻碍。一方面，与贝叶斯分类器、决策树（DT）和支持向量机（SVM）等其他机器学习工具相比，ANN缺乏透明度，常被视为黑盒类型的分类器。另一方面，由于涉及多层和大量节点的复杂优化，ANN面临高计算成本的问题。

不过，随着卷积神经网络（CNN）的引入以及更强大的计算软硬件的发展，这些问题得到了克服。CNN将传统的ANN从网络和计算（全连接层）扩展到了包括传感器（卷积层），这意味着CNN模拟了完整的人类视觉系统。但CNN也存在缺点，即需要通过经验确定大量的参数。

CNN的引入对ANN和整个机器学习领域来说是一项重大发展。卷积层可以独立于ANN，并且可以连接到任何其他机器学习工具，如贝叶斯分类器、DT、SVM等。借助Matlab深度学习工具箱和其他强大的工具，现在可以像研究其他机器学习工具一样透明地研究CNN的内部结构和学习过程。由于具有透明度，现在可以采用逐步的方法来控制计算和学习过程。随着CNN、ImageNet的发展以及计算能力的不断提高，图像数据挖掘的未来变得更加光明。

2. 决策树（DT）概述

之前讨论的机器学习方法通常是黑盒类型的分类器，其决策过程对用户不透明，既难以解释也难以理解。而且，这些方法的决策过程是单路径或非条件的，当原始决策不合适时没有替代方案。

人类倾向于采用逐步和分层的方式进行决策。例如，当观察具有复杂图案的图像时，我们通常会首先使用最突出的属性或特征将不同的图案分组，然后进一步识别我