8、机器学习的多视角解析

机器学习的多视角解析

1. 机器学习的基础理论

1.1 形式逻辑与符号逻辑

形式逻辑中，用符号表示的逻辑系统被称为符号逻辑，它始于乔治·布尔（George Boole，1815 - 1864）。1847 年，他引入了命题逻辑，并在此基础上提出了布尔代数，命题逻辑也被称为零阶逻辑。随后，奥古斯都·德·摩根（Augustus De Morgan，1806 - 1871）将德·摩根定律引入命题逻辑和布尔代数。1870 年后，查尔斯·桑德斯·皮尔士（Charles S. Peirce，1839 - 1914）发展了布尔的逻辑系统，增加了关系和量词。1879 年，戈特洛布·弗雷格（Gottlob Frege，1848 - 1925）提出了一阶逻辑，它是命题逻辑的扩展，增加了对象和关系。阿尔弗雷德·塔斯基（Alfred Tarski，1902 - 1983）提出了指称的因果理论，揭示了如何将逻辑中的对象与现实世界中的对象联系起来。1929 年，库尔特·哥德尔（Kurt Gödel，1906 - 1978）在博士论文中证明了完备性定理，从而确立了一阶逻辑中语法和语义的对应关系。形式逻辑不断发展和丰富，一些研究者从数学角度研究形式逻辑系统，即数理逻辑，包括模态逻辑、模糊逻辑和描述逻辑等。符号逻辑的表现形式是符号，这催生了符号主义。符号主义将客观世界视为符号的组合，用符号及其关系表示信息，并通过符号的存储、提取、推理和转换完成人类认知。使用特定算法处理这些符号来解决问题和推导新知识。目前，命题逻辑、一阶谓词逻辑和模糊逻辑在机器学习中被广泛使用。

1.2 信息论

信息论是研究数字信息量化、存储和通信的领域，也是概率论、统计学、计算机科学和信息工程的交叉学科。20 世纪 2