weixin_43956565的博客

逻辑回归是机器学习中经典的二分类方法： 代码需要完成的模块： 1.sigmoid：映射到概率的函数 g(z)=11+e−z g\left ( z \right )=\frac{1}{1+e^{-z}} g(z)=1+e−z1​ 2.model：返回预测结果值 3.loss：根据参数计算损失 4.gradient：计算每个参数的梯度方向 5.descent：进行参数更新 6.accuracy：计算精...

决策树从根节点开始走到叶子节点做出决策，其既可以分类又可以回归。 难点：如何从给定的训练集构造出决策树（从根节点开始选择特征，如何使用特征切分样本） 树节点选择顺序的衡量标准-熵 熵：表示随机变量不确定性的度量。 对应公式为： H(X)=−∑i=1npi∗log(pi) H\left ( X \right )=-\sum_{i=1}^{n}p_{i}\ast log\left ( p_{i} \r...

经典的分类算法。

聚类属于无监督学习算法，将相似的数据分到一组，其难点是：如何评估聚类效果，如何调参。 K-MEANS算法 聚类前需要指定簇的个数：K值。 质心：每个簇的均值点，对向量各维取平均。 距离的度量：需要求样本点到质心的距离，常用欧式距离和余弦相似度（先标准化）。 优化目标：min∑i=1k∑xϵCidist(ci,x)2min\sum_{i=1}^{k} \sum_{x\epsilon C_{i}}d...

将数据从高维映射到低维。 PCA算法： Principal Component Analysis 其为无监督问题，基于方差提取最有价值的信息。

贝叶斯公式： P(B∣A)=P(A∣B)∗P(B)P(A) P(B|A)=\frac{P(A|B)\ast P(B)}{P(A)} P(B∣A)=P(A)P(A∣B)∗P(B)​ 1.拼写纠正实例： 问题：用户输入了一个不在字典中的单词（即错误的单词），需要去猜测其真正想输入的单词是什么？ 方法：求解概率：P(猜测的单词 | 实际输入的单词)，找到概率最大的猜测单词。 用户输入的单词记为D（D代...