牵着蜗牛_去散步

损失函数我们在逻辑回归中用到的损失函数是： 为什么要用这个函数作为逻辑损失函数？当我们使用平方误差作为损失函数的时候，你 会想要让这个误差尽可能地小，对于这个逻辑回归损失函数，我们也想让它尽可能地小，为 了更好地理解这个损失函数怎么起作用，举两个例子： 当y = 1时损失函数，如果想要损失函数尽可能得小，那么就要尽可能大，因为 sigmoid 函数取值[0,1]，所以会无限接近于...

偏差和方差的定义介绍：偏差(Bias)这里的偏指的是 偏离 , 那么它偏离了什么到导致了误差? 潜意识上, 当谈到这个词时, 我们可能会认为它是偏离了某个潜在的 “标准”, 而这里这个 “标准” 也就是真实情况 (ground truth). 在分类任务中, 这个 “标准” 就是真实标签 (label). 通俗的说就是: 偏差度量了学习算法的期望预测与真实结果的偏离程序, 即 刻画...

范数有时我们需要衡量一个向量的大小。在机器学习中，我们经常使用被称为 范数（norm）的函数衡量向量大小。形式上， Lp 范数定义如下: ∥x∥p=(∑i|xi|p)1p∥x∥p=(∑i|xi|p)1p\parallel x\parallel_p = (\sum_i|{x_i}| ^p)^\frac{1}{p}其中 p∈R，p≥1p∈R，p≥1p \in R， p ≥ 1。 范数（包括...

条件概率,乘法公式,全概率公式及贝叶斯公式的推导条件概率乘法公式全概率公式贝叶斯公式推导过程条件概率条件概率是指事件A在另外一个事件B已经发生条件下的发生概率。条件概率表示为：P(A∣B)P(A\mid B )P(A∣B)，读作“在B的条件下A发生的概率”条件概率公式为:P(A∣B)=P(AB)P(B) P(A\mid B) = \frac{P(AB)}{P(B)}P(A∣B)=P(B)...