Ono_bing的博客

逻辑斯蒂回归/逻辑回归线性回归的任务是预测，如果拿来做分类是这个效果：z=wTx⇒y={0,z<00.5,z=01,z>0\bold z=\bold w^T\bold x\Rightarrow y=\begin{cases}0,&\bold z<0\\0.5,&\bold z=0\\1,&\bold z>0\end{cases}z=wTx⇒y...

线性回归一元线性回归一元线性回归即单变量线性回归有x,y两个变量，用一条直线来拟合他们之间的关系，每一个观测值(xn,yn)(x_n,y_n)(xn​,yn​)不一定都落在直线上，观测值到直线的距离既为回归误差：en=yn−(wxn+b)e_n=y_n-(wx_n+b)en​=yn​−(wxn​+b)拟合直线要求回归误差最小。均方和误差：∑n=1Nen2=∑n=1N(yn−w...

最小错误率贝叶斯先验概率反映了我们的经验知识，是一种简单的判决准则只依靠先验概率并不靠谱，如：学校男女比例4:1，走过来的人是男生可能性大，但不能直接分类为男生需要更多的特征信息进一步进行分类似然概率特征的类条件概率在已知特征属于某个类的前提条件下的概率密度分布二类判决问题假设已知：两类的先验概率p(w1)p(w_1)p(w1​)和p(w2)p(w_...

评估方法k折交叉验证数据分为k部分，每次抽出k-1块作为训练集，剩余一部分为测试集，训练测试k次，取测试结果的平均值作为返回结果。调参算法的参数一般由人工设定，称为超参数。模型的参数由学习确定。调参过程先产生若干模型，基于某种评估方法进行选择。使用训练集训练模型，用验证集评估模型的性能，选定好最优的模型后用训练集+验证集重新训练最终模型->测试。性能度量性能...