《控制论与科学方法论》第五章：黑箱认识论：摘抄

读书目标：【为了搞清楚如何应对机器学习、深度学习这一类黑箱模型到底应不应该使用？如果使用，我们又该如何控制它？能不能理解它，如何理解它？】

5.1 认识对象和黑箱

黑箱理论是控制论独特的认识论。将人们认识和改造的对象看做黑箱（与系统是等价概念）。

认识客体黑箱有两种不同的方法：1不打开黑箱的方法，2打开黑箱的方法。

随着人类观察手段和控制手段的进步，一个黑箱原来未能观察到的变量可能成为可观察变量，原来不能控制的变量也可能可以被控制了，我们预先提出的模型被证实或部分证实了，这时候我们说原来的那个黑箱被我们打开了或部分打开了。

从认识的角度来看，一方面打开黑箱标志着人的认识的深化；另一方面，打开黑箱正抢了人对黑箱的控制能力。

更精确地说，打开黑箱在任何场合只是打开了黑箱的某一个层次。客观事物的黑箱总是一层套一层的，永远不会完结。

根据黑箱外部输入、输出，而提出的关于黑箱内部的情况的假定，在控制论中称为模型。模型只是一种假设，它不一定表示黑箱内部的实际结构。这只是认识的一个阶段。

不打开黑箱的研究方法适用于：

1.某些内部结构非常复杂的系统。它的内部不但变量数目众多，而且相关关系也错综复杂，即使打开了还想，也往往只能从某一个局部来观察它们。采用不打开黑箱的方法反而更有利于人们从整体的角度、从综合全局的角度来考察问题。

2.至今为止人们所拥有的手段尚不能打开的黑箱。

3.人类在某一阶段掌握的某一类打开黑箱会严重干扰本身结构的系统。（举例：生物体）

评论：「

目前机器学习、深度学习模型对于我们来说就是黑箱。尤其是1-内部结构复杂，参数众多。2-迄今为止的手段尚不能打开。

那么，形成关于它的模型和假设，就需要采取“不打开黑箱“的方法来间接地通过可观察变量、可控制变量来分析。

aka 通过改变输入、接收输出，来对模型内部是如何工作的规律提出我们的假设。