Python 科技研究之 05 机器学习中的 XOR 和甜甜圈问题

计算机科学的机器学习领域专注于创建可以从经验中学习的算法。机器学习的目标是创建算法，当它们接触到额外的数据时，可以自动提高它们在给定任务上的性能。处理输入和输出之间的非线性相关性是机器学习的核心难点之一。XOR 问题和甜甜圈问题是机器学习中非线性分类问题的两个著名示例，本文将对此进行介绍。

异或问题

XOR 问题是分类问题的一个众所周知的例子，其目标是将输入分为两类之一。XOR 问题的类别是“0”和“1”，输入是二进制数据。当输入和类之间存在非线性可分连接时，就会出现问题。换句话说，不可能用一条简单的直线将输入分为两类。

要理解为什么 XOR 问题是非线性可分的，请考虑以下真值表：

当且仅当恰好有一个输入为“1”时，此真值表的输出为“1”。因为没有平面（或直线）可以将输入分为两类，所以这种关系不能线性分离。

解决异或问题需要更复杂的算法，如人工神经网络，它可以识别输入和输出之间的非线性相关性。神经网络（即将发布）由许多连接的节点组成，这些节点可以对输入执行非线性转换。神经网络可以通过使用多层非线性变换来学习逼近任何非线性函数，包括 XOR 函数。然而，异或问题可以用线性模型来解决。为了使其线性，