P问题，NP问题，NPC问题

P问题：如果一个问题可以找到一个能在多项式的时间里解决它的算法，简单的说，存在多项式时间的算法的一类问题，那么这个问题就属于P问题；

NP问题：可以在多项式的时间里验证一个解的问题，或者说可以在多项式的时间里猜出一个解的问题，总而言之，在多项式时间内可由非确定机解决的一类问题，称之为NP问题。

NPC问题：满足下面两个条件的问题就是NPC问题。首先，它得是一个NP问题；然后，所有的NP问题都可以约化到它。

（约化：如果能找到这样一个变化法则，对任意一个程序A的输入，都能按这个法则变换成程序B的输入，使两程序的输出相同，那么我们说，问题A可约化为问题B。

 简单地说，一个问题A可以约化为问题B的含义就是，可以用问题B的解法解决问题A，或者说，问题A可以“变成”问题B。）

NP-Hard：它满足NPC问题定义的第二条但不一定要满足第一条（就是说，NP-Hard问题要比 NPC问题的范围广）。

关系总结：所有P问题都是NP问题，反之则不一定。

NPC问题是NP问题的子集，也是P问题和NP问题的差异所在。如果找到一个多项式内能被解决的NPC问题的解决方法，那么P=NP。

若可以彻底避免过拟合，则通过经验误差最小化就能获得最优解，这就意味着我们证明了“P=NP”；

因此只要相信“P不等于NP”，过拟合就不可避免。