u010921136的博客

特征选择 特征选择是一个重要的数据预处理过程，去除不相关的属性，可以减轻维数灾难，并且降低学习任务的难度。 1、子集搜索 2、子集评价 稀疏表示与字典学习 压缩感知

降维的目的 PCA主成分分析 LDA线性判别分析 核化线性降维 流形学习 度量学习

SVM支持向量机 SVR支持向量回归 软间隔支持向量机

M-P神经元模型 BP算法（误差逆传播算法） 局部极小和全局极小 CNN卷积神经网络

线性模型 多分类学习 OvO OvR MvM ECOC 类别不平衡问题

模型评估 训练集测试集划分 留出法 交叉验证法 自助法 性能度量

当不具备归纳偏好时，模型给出的判断可能是随机的，这样的结果显然没有意义。 任何一个有效的机器学习算法必有其归纳偏好。 奥卡姆剃刀：若有多个假设和观察一致，则选最简单的一个。 只有在特定情况下，学习算法才有优劣之分。 符号学习：如决策树，能产生明确的概念表示。 连接学习：如神经网络（包括深度学习）产生的是“黑箱”模型。 统计学习：包括“支持向量机”和“核方法”。 ...

院士陆汝铃：六问机器学习 1、符号学习是否彻底退出历史舞台？ 2、独立同分布是否是机器学习的必要条件，如何克服难题？ 3、深度学习的热潮、无终止学习等新动向。 4、不仅仅概率统计，包括微分和代数等分支数学分支，如何开辟更多的机器学习新模式、新理论、新方向？ 5、符号学习的离散处理方法和统计机器学习的连续处理方法不应当被完全切割开！ 6、所谓量变到质变，大数据时代，大数据和机器学习方法将相互促进。...