weixin_43956565的博客

逻辑回归是机器学习中经典的二分类方法：代码需要完成的模块：1.sigmoid：映射到概率的函数g(z)=11+e−zg\left ( z \right )=\frac{1}{1+e^{-z}}g(z)=1+e−z1​2.model：返回预测结果值3.loss：根据参数计算损失4.gradient：计算每个参数的梯度方向5.descent：进行参数更新6.accuracy：计算精...

决策树从根节点开始走到叶子节点做出决策，其既可以分类又可以回归。难点：如何从给定的训练集构造出决策树（从根节点开始选择特征，如何使用特征切分样本）树节点选择顺序的衡量标准-熵熵：表示随机变量不确定性的度量。对应公式为：H(X)=−∑i=1npi∗log(pi)H\left ( X \right )=-\sum_{i=1}^{n}p_{i}\ast log\left ( p_{i} \r...

经典的分类算法。

聚类属于无监督学习算法，将相似的数据分到一组，其难点是：如何评估聚类效果，如何调参。K-MEANS算法聚类前需要指定簇的个数：K值。质心：每个簇的均值点，对向量各维取平均。距离的度量：需要求样本点到质心的距离，常用欧式距离和余弦相似度（先标准化）。优化目标：min∑i=1k∑xϵCidist(ci,x)2min\sum_{i=1}^{k} \sum_{x\epsilon C_{i}}d...

将数据从高维映射到低维。PCA算法：Principal Component Analysis其为无监督问题，基于方差提取最有价值的信息。

贝叶斯公式：P(B∣A)=P(A∣B)∗P(B)P(A)P(B|A)=\frac{P(A|B)\ast P(B)}{P(A)}P(B∣A)=P(A)P(A∣B)∗P(B)​1.拼写纠正实例：问题：用户输入了一个不在字典中的单词（即错误的单词），需要去猜测其真正想输入的单词是什么？方法：求解概率：P(猜测的单词 | 实际输入的单词)，找到概率最大的猜测单词。用户输入的单词记为D（D代...