ziuno的博客

《机器学习》阅读笔记（五）5 神经网络5.1 神经元模型神经网络(neural networks)：由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应对比描述生物神经网络每个神经元与其他神经元相连，当它“兴奋”时，就会向相连的神经元发送化学物质，从而改变这些神经元内的电位；如果某神经元的电位超过了一个“阈值...

《机器学习》阅读笔记（三）3 线性模型(linear model)3.1 基本形式ddd：属性个数x=(x1;x2;… ;xd)\boldsymbol{x}=(x_1;x_2;\dots;x_d)x=(x1​;x2​;…;xd​)：xix_ixi​是x\boldsymbol{x}x在第iii个属性上的取值线性模型f(x)=w1x1+w2x2+⋯+wdxd...

《机器学习》阅读笔记（二）2 模型评估与选择2.1 经验误差与过拟合术语en描述错误率error rate分类错误的样本数占样本总数的比例（mmm个样本中有aaa个样本分类错误，则错误率E=a/mE=a/mE=a/m）精度accuracy精度=1-错误率（1−a/m1-a/m1−a/m）误差error学习器的实际预测输出与样本的真实输出之间的差...

《吴恩达机器学习》笔记——12 机器学习系统设计1 确定执行的优先级构建一个垃圾邮件分类器监督学习输入输出符号xxxyyy描述email的特征-选择选择100个词来表明是否为垃圾邮件x∈R100x\in\mathbb{R}^{100}x∈R100xj={1若单词j出现在邮件中0其他x_j=\left\{\begin{matrix}1 &若...

《吴恩达机器学习》笔记——11 应用机器学习的建议1 决定下一步做什么问题算法改进产生较大误差1. 使用更多训练样本2. 尝试选用更少特征3. 获取更多特征4. 增加多项式特征5. 增大或减小λ\lambdaλ2 模型评估与选择评估单个模型多个模型选择数据集训练集(70%)测试集(30%)训练集(60%)交叉验证集(20%)测试集(20...

《吴恩达机器学习》笔记——10 神经网络参数的反向传播算法1 代价函数参数表达训练集{(x(1),y(1)),(x(2),y(2)),…,(x(m),y(m))}\{(x^{(1)},y^{(1)}),(x^{(2)},y^{(2)}),\dots,(x^{(m)},y^{(m)})\}{(x(1),y(1)),(x(2),y(2)),…,(x(m),y(m))}...

《吴恩达机器学习》笔记——9 神经网络学习1 非线性假设

《吴恩达机器学习》笔记——8 正则化1 过拟合问题解决过拟合问题具体减少选取变量的数量人为选择保留的特征模型选择算法正则化保留所有特征，但减小θj\theta_jθj​的数量级或值2 代价函数正则化代价函数J(θ)=12m[∑i=1m(hθ(x(i))−y(i))2+λ∑j=1nθj2]J(\theta)=\frac{1}{2m}\left[\s...

《吴恩达机器学习》笔记——7 Logistic回归1 分类分类yyy负类0正类1若hθ(x)h_\theta(x)hθ​(x)预测yyy⩾0.5\geqslant0.5⩾0.51<0.5<0.5<0.502 假设陈述-表达式hθ(x)h_\theta(x)hθ​(x)g(θTx)...

《吴恩达机器学习》笔记——5 多变量线性回归1 多功能符号定义nnn特征量的数目x(i)=[x1(i);x2(i);… ;xn(i)]x^{(i)}=[x^{(i)}_1;x^{(i)}_2;\dots;x^{(i)}_n]x(i)=[x1(i)​;x2(i)​;…;xn(i)​]第iii个训练样本的输入特征值xj(i)x^{(i)}_jxj(i)​第ii...

吴恩达机器学习——2 单变量线性回归1 模型描述符号定义mmm训练样本数量xxx”输入”变量/特征yyy“输出”变量/“目标”变量(x,y)(x,y)(x,y)一个训练样本(x(i),y(i))(x^{(i)},y^{(i)})(x(i),y(i))第iii个训练样本hhh假设函数模型hθ(x)=θ0+θ1xh_\t...

《机器学习》阅读笔记2019.9.61 绪论1.2 基本术语术语en描述数据集data set记录的集合（每条记录是关于一个事件或对象的描述，称为一个“示例”(instance)或“样本”(sample)）属性/特征attribute/feature反映事件或对象在某方面的表现或性质的事项属性值attribute value属性上的取值属...