朕蹲厕唱忐忑的博客

文章内容大多来自互联网，只是加了点排版和整理补充，我是搬运工~~机器学习： 一个程序被认为能从经验E（Experience ）中学习，解决任务 T（Task），达到性能度量值P（Performance measure），当且仅当，有了经验E后，经过P评判， 程序在处理 T 时的性能有所提升。1 有监督学习（Supervising Learning）在监督学习中，给定一组数据，我们知道正确的输...

1 一对多算法（One-vs-all）1.1 多分类问题举例1.2 算法解释二分类问题上一篇博客讲了逻辑分类算法，将训练样本分为positive和negative；如果说，有超过3个类别，我们需要做的就是，分别将类别1、2、3作为positive，其余的两个类别作为negative（23、13、12），这样我们就可以得到3个假设函数（分类器）hθ(i)(x)，（i=1,2,3）h^{(i)...

1 过拟合问题（Overfitting）过拟合（Overfitting）问题就是特征数量太多，过分的追求完美拟合训练样本，把训练样本自身的一些特点，当成所有潜在样本都会具有的一般特征。这样求得的假设函数对训练样本会拟合非常好，但是泛化能力比较差，难以对新的样本做出正确的预测。欠拟合（Underfitting）问题就是对训练样本的一般性质尚未学好，我们的假设函数h的形式很难映射到数据的趋势。通常...

plotData.m（图形绘制）%进行二分类pos=find(y==1);neg=find(y==0);%绘制录取与未录取图形plot(X(pos, 1), X(pos, 2), 'k+','LineWidth', 2, 'MarkerSize', 7);plot(X(neg, 1), X(neg, 2), 'ko', 'MarkerFaceColor', 'y','MarkerSi...

1 代码lrCostFunction.m(逻辑回归的代价函数)%套用代价函数公式hx=sigmoid(X*theta);J = 1 / m * sum((-y) .* log(hx) - (1 - y) .* log(1 - hx)) + lambda / (2 * m) * (sum(theta .^ 2) - (theta(1) ^ 2));%theta(1)无需进行梯度下降gr...

请看：https://blog.youkuaiyun.com/liuyong5573/article/details/85472808最后tf.Session()一般的显卡执行时间会比较长。

1 正文DownGit我在下载deeplearning.ai的课后作业时，git clone龟速，直接下载整个ZIP特别大，总是失败。（不知道是不是国内的原因，还有就是，哪位大哥把那么大的ZIP放在git上…）辗转找到了这个网站，可以快速下载git上的项目以及各种资源，还可以单独下载某个文件或者文件夹，下载速度超级快，唯一不足就是下载的压缩包名称不太好看。2 参考文献1、如何从 Git...

在默认的环境（不是base），conda install nb_conda_kernels。然后分别激活不同的虚拟环境，安装ipykernel，我的是torch和tf。conda activate torchconda install ipykernelconda deactivateconda activate tfconda install ipykernelconda deac...

请看博客：(yolo.h5文件问题的解决 - 吴恩达深度学习：目标检测之YOLO算法)[https://blog.youkuaiyun.com/solo95/article/details/85262828]

今天在实验visdom的时候，启动的时候一切正常，import torch as timport visdomvis = visdom.Visdom()x = t.arange(1, 30, 0.01)y = t.sin(x)vis.line(X=x, Y=y, win='sinx', opts={'title': 'y=sin(x)'})但是运行Visdom()的时候报以下的错...

1 代价函数符号表示具体含义(x(i),y(i))(x^{(i)},y^{(i)})(x(i),y(i))第iii个训练实例mmm训练实例的个数LLL神经网络结构的层数sls_lsl​第lll层的单元数量（不包含偏置单元）J(Θ)=−1m∑i=1m∑k=1K[yk(i)log⁡((hΘ(x(i)))k)+(1−yk(i))log⁡(1−(h...

1 实例与直观理解上图中右图可以简化为左图形式，为了对右图的实例进行非线性分类，我们先针对左图尝试逐步建立简单的神经网络（与/或/非/异或/非异或）。与运算：在上图AND神经网络中，几个层分别为[x0x1x2]→[g(z(2))]→hΘ(x)\begin{bmatrix}x_0 \\ x_1 \\ x_2\end{bmatrix} \rightarrow\begin{bmatrix}g(...

1 模型1.1 简单术语表示含义x(i)输入变量y(i)输出变量(x(i),y(i))一个训练实例(x(i),y(i)),i=1,2,…m一个训练集m训练集内训练实例的个数1.2 举例1.3 学习算法的工作h表示hypothesis（假设）1.4 单变量回归模型我们将x称为feature，hθ(x)称为hypothesi...

1 梯度下降上一节已经说了我们需要求得代价函数的最小值，这次的梯度下降算法就是干这个的，为了简化分析，这次代价函数只有两个参数α：学习速率，即下山的速率0 1同时更新才是梯度下降算法＃　２...

1 正规方程（Normal Equation）之前已经说过了求解代价函数J(θ)最小值的方法——梯度下降法，但是梯度下降法需要多次迭代，而且需要不断的尝试来寻求一个合适的学习速率α。其实是还有其他方法来求J(θ)最小值的。如下所示，对于具体的代价函数J(θ)，可以分别对每个参数θi进行求偏导并令其为零，对于含有n个参数的代价函数，会得到n个方程组，联立求解即可求得J(θ)取最小值时的各个参数的...

1 Matrices and Vectors1.1 Matrices(矩阵)矩阵:是由数字组成的，并且在[]中的。它是由行和列组成。例如下图中，左侧就是一个4×2的矩阵，而右侧是一个2×3的矩阵，而通常表示一个矩阵是几行几列的写法便是R4×2,代表着它是4×2的矩阵。再看下图，通过A来标识具体矩阵的某个元素，例如A11=1402，代表的就是A这个矩阵的第一行，第一列的元素是1402，A4...

1 关键代码warmUpExercise.m（热身练习）A=eye(5);plotData.m（绘图）plot(x, y,'rx','MarkerSize',10); xlabel('Profit in $10,000s'); ylabel('Population of City in 10,000s'); computeCost.m（计算代价函数）h=X*theta;J=1...

1 分类2 假设表示

1 代价函数2 简化代价函数与梯度下降3 高级优化4 参考资料1、机器学习-第三周

其实第二周刚开始的部分是环境配置说明（Environment Setup Instructions），主要是Octave和Matlab的安装说明和一些教程类的东西，那个教程还是比较有用的，我把它写在参考资料里面了。1 多特征1.1 变量说明变量名称变量含义x(i) j第i个训练实例中的第j的特征值x(i)第i个训练实例m训练集中训练实例的数量n每...

1 非线性假设为什么研究神经网络对于简单的只含有2个特征x1x_{1}x1​和x2x_{2}x2​的数据集，我们可以通过逻辑回归模型来拟合，也可以确定决策边界，如图所示，因为我们可以把所有x1x_{1}x1​和x2x_{2}x2​的组合都包含进去慢慢尝试。但是实际应用问题中，特征的数量会非常多，以住房分类问题为例，我们对房子的100个特点都有所了解，接下来想预测房子在未来半年被卖出去的概率...

1 模型表达I2 模型表达II

在读取嵌入词向量文件glove.6B.50d.txt 的编程作业中，出现了如下错误：在这里插入代码片按照网上教程修改read_glove_vecs函数，读取格式改为utf-8后，出现的新的错误：'utf-8' codec can't decode byte 0xa8 in position 3134: invalid start byte...