- 博客(54)
- 资源 (4)
- 收藏
- 关注
RSS订阅原创 《吴恩达机器学习》第七章笔记
这里第七章：Logistic 回归引言算法的定义决策边界代价函数优化算法多类别分类引言分类问题，如1、邮件是否是垃圾邮件2、诊断是否患有某病3、商务网站检测用户使用的信用卡是否异常这些问题，都有一个特征，就是最终的结果y∈{0,1}y\in\{0,1\}y∈{0,1}我们可以考虑使用线性回归来进行拟合，但是最终注意，然后设置一个阀值，如hθ(x)>=0.5h_\the...
2019-02-24 23:39:40
325
原创 《吴恩达机器学习》第六章笔记
这里第六章：octave入门octave 的基本使用学会用向量化的思想octave 的基本使用基本操作命令移动数据计算数据绘制数据流程控制主要是关于向量，矩阵的表达，基本的运算表达，索引，绘制等等，可以对比matlab,numpy学习学会用向量化的思想...
2019-02-24 22:53:38
350
原创 《吴恩达机器学习》第五章笔记
这里第五章：多变量线性回归多变量线性回归的定义对应的多元梯度下降特征缩放学习率多项式的扩展正规方程求解正规方程中逆不存在时多变量线性回归的定义指每一样样本中，不只是有一个特征量，而是多个我们为了保持通过另常数项对应的特质量设置为1，直接构成一n+1纬度的向量hθ(x)=θTX=XTθh_\theta(x) = \theta ^{T}X=X^{T}\thetahθ(x)=θTX=XTθ...
2019-02-21 13:25:47
344
原创 《吴恩达机器学习》第三章笔记
这里第三章-绪论：线性代数回顾矩阵向量矩阵加法、数乘矩阵乘法矩阵的逆矩阵[a11a12a13a14……a21a22a23a24……a31a32a33a34……a41a42a43a44…………]{\left[ \begin{array}{ccc}a_{11} & a_{12} & a_{13} & a_{14} ……\\a_{21} &am...
2019-02-08 13:49:54
313
原创 《吴恩达机器学习》第二章笔记
这里第二章-绪论：单变量线性回归引入线性模型 linear regression假设函数和代价函数作图分析最小化的梯度下降法梯度下降法+单变量线性回归引入线性模型 linear regression以房价和房子大小的数据来引入线性模型，并且提出几个概念m:训练集数目(x,y）表示一个训练样本(x,y）表示一个训练样本(xi,yi）(x^i,y^i）(xi,yi）表示第i...
2019-02-07 23:12:49
258
原创 《吴恩达机器学习》第一章笔记
这里第一章-绪论：初识机器学习机器学习的应用机器学习定义、类型课程的目标监督学习1、回归2、分类无监督学习分析机器学习的应用我们可以利用计算机实现基础的功能：例如计算A到B的最短路径但是 网页搜索、垃圾邮件的过滤、图片识别 等功能需要应用机器学习的技术，总体来说分成五个方面1、数据挖掘，例如分析用户的点击量来分析用户习惯，医疗记录=> 医疗知识2、对于某些无法直接编写代码的场景，...
2019-02-06 20:37:34
285
原创 线性代数学习笔记29
这里第三十一、二课-线性变换及对应矩阵、基变换和图像压缩线性变换基变换和图像压缩线性变换我们之前学习了零空间、行空间、行列式、特征值，都是源于对于矩阵的了解，但是矩阵只是在给定坐标下对线性变换的描述，所以线性代数是核心变换我们有如T:R2−>R2，这是一种映射，一个输入对应着一个输出T:R^2->R^2，这是一种映射，一个输入对应着一个输出T:R2−>R2...
2019-02-03 20:11:49
354
原创 线性代数学习笔记28
这里第三十课-奇异值分解引言奇异值分解引言如果矩阵A 拥有n个线性无关的特征向量，则有A=S对角矩阵S−1A=S对角矩阵S^{-1}A=S对角矩阵S−1但是由于S−1S^{-1}S−1的运算比较麻烦。考虑到在对称矩阵的特征向量是互相垂直的，所以有S−1=STS^{-1}=S^TS−1=ST所以有A=S对角矩阵STA=S对角矩阵S^TA=S对角矩阵ST奇异值分解那么对于普通方阵，其行空间一...
2019-02-02 19:03:04
1185
原创 线性代数学习笔记23
这里第二十五课-复习二正交投影正交基求解行列式特征值，特征向量正交正交，正交矩阵的相关性质，有QTQ=IQ^TQ =IQTQ=I投影投影到线，投影到面,统一公式为P=A(ATA)−ATP = A(A^TA)^-A^TP=A(ATA)−AT，当为线是，公式退化为P=aaTaTaP = \frac{aa^T}{a^Ta}P=aTaaaT最小二乘法的应用正交基求解利用 计算公式，求解...
2019-02-02 10:10:23
307
原创 线性代数学习笔记27
这里第二十八课-相似矩阵和若尔当形相似矩阵定义不是相似矩阵的例子若尔当形相似矩阵定义针对两个n×nn\times nn×n的矩阵A,B,满足B=M−AMB = M^-AMB=M−AM即说明A,B是相似的对比之前的 矩阵对角化公式有A=S对角矩阵S−A = S对角矩阵S^-A=S对角矩阵S−=>对角矩阵=S−1AS对角矩阵= S^{-1}AS对角矩阵=S−1AS对角矩阵是A 的...
2019-02-02 10:08:51
371
原创 线性代数学习笔记26
这里第二十八课-正定矩阵和最小值引言正定矩阵$X^TAX的极小值$与微分方程的关系引言注意：主元、行列式、特征值、不稳定性是相关联的正定矩阵正定矩阵是满足1、对称矩阵2、特征值全为正或者所有子行列式大于0或者所有主元大于0，XTAX>0X^TAX>0XTAX>0如[266X]{\left[ \begin{array}{ccc}2 &amp...
2019-02-01 19:10:29
476
原创 线性代数学习笔记25
这里第二十七课-复数矩阵和快速傅里叶变换复数矩阵傅立叶矩阵复数矩阵复数矩阵是指矩阵的元素在复数范围内，属于CnC^nCn范围内：复数向量的模长length2=QˉTQlength^2 = \bar Q^T Qlength2=QˉTQ注意这里要加共轭符号复数向量Q1Q2Q_1Q_2Q1Q2的内积Qˉ1TQ2 \bar Q_1^TQ_2 Qˉ1TQ2我们使用Q...
2019-02-01 15:02:31
301
原创 线性代数学习笔记24
这里第二十五课-对称矩阵及正定性引言对称矩阵正定矩阵引言引言分析方阵，特征值和特征向量是两个很重要的部分，例如马尔可夫矩阵矩阵就是具备特征值有一个为1的特点，其他的绝对值小于1。对于对称矩阵也具备一些十分特殊的性质对称矩阵对于对称矩阵，定义即为AT=AA^T = AAT=A。特征值和特征向量满足1、特征值都是实数2、特征向量是垂直的当然这里对于性质二就不证明了（人生苦短，……），以2...
2019-02-01 12:47:03
540
原创 线性代数学习笔记22
这里第二十四课-马尔可夫矩阵;.傅立叶级数马尔可夫矩阵傅立叶级数马尔可夫矩阵给出一个如下的矩阵[.1.01.3.2.99.3.7.0.4]{\left[ \begin{array}{ccc}.1 & .01 & .3\\.2 & .99 & .3 \\ .7 & .0 & .4 \\...
2019-01-30 20:38:37
648
原创 线性代数学习笔记21
这里第二十二课-矩阵指数矩阵指数三阶方程矩阵指数这节课前半部分，由于听不太懂，就先跳过，从矩阵指数开始讲起eAt=I+AT+AT22+AT36+……+ATnn!e^{At} = I +AT +\frac{{AT}^2}{2}+\frac{AT^3}{6}+……+\frac{AT^n}{n!}eAt=I+AT+2AT2+6AT3+……+n!ATn结合之前学习的A=S对角矩阵S−A =...
2019-01-30 18:43:28
245
原创 线性代数学习笔记20
这里第二十二课-对角化和A的幂引言对角化A 的幂基本前提的满足条件应用1应用2引言这节课主要是讲特征值的作用，可以方便我们处理矩阵的幂，主要设计到两个内容，分别是对角化和A 的幂对角化基本前提：假设矩阵A有n个线性无关的特征向量，S 由n个线性无关的特征向量组成各列，有A−AS=>对角矩阵XA^-AS => 对角矩阵XA−AS=>对角矩阵X证明有：A...
2019-01-30 16:45:59
476
原创 线性代数学习笔记19
这里第二十一课-特征值和特征向量引言特征值和特征向量引言给定一个矩阵，对某个向量进行操作，使得操作结果和该向量是平行的。即Ax=λxAx= \lambda xAx=λx 我们称 λ\lambdaλ为特征值，x 为特征向量。当然对于特征向量，我们是规定不能为0向量的，并且特征向量之间应该线性无关考虑一些特殊情况分析，如果令 λ=0\lambda=0λ=0我们有即求 A 的零空间，当然当A ...
2019-01-30 11:52:53
387
原创 线性代数学习笔记18
这里第十九课-克拉默法则、逆矩阵、体积引言求矩阵的逆克拉默法则关于逆矩阵和克拉默法则的看法关于体积的理解引言这一节课，主要是讲解行列式的应用求矩阵的逆关于矩阵的逆，首先给出二维的计算公式∣abcd∣−=1/(ad−bc)∣d−c−ca∣ \begin{vmatrix} a & b \\ c & d \end{vmatrix}^- = 1/(ad-bc)\b...
2019-01-29 23:35:21
308
原创 线性代数学习笔记17
这里第十八课-行列式公式和代数余子式行列式公式的推导代数余子式行列式 的 第三种求解方法行列式公式的推导可以根绝行列式三个基本性质来推导行列式大公式。如果是2 * 2∣abcd∣=∣a0cd∣+∣0bcd∣\begin{vmatrix} a & b \\ c & d \end{vmatrix}\quad = \begin{vmatrix} a &amp...
2019-01-29 19:26:04
223
原创 线性代数学习笔记16
这里第十八课-行列式及其性质引言行列式的三条基本性质推导出其他性质性质4、矩阵如果有两行相等 =>det(A) = 0性质5 消元法前后的行列值变化性质6 如果有一整行0，行列式为0性质7 对角矩阵行列式为 对角线相乘性质8 如果主元为0 行列式0性质9 det(AB) = (det(A))(det(B))性质10 转置矩阵的行列式相等一个注意点引言之前的部分，学习的内容都是长矩阵，之...
2019-01-29 15:49:02
810
原创 线性代数学习笔记15
这里第十七课-正交矩阵和Gram-Schmidt正交化线性相关性与正交标准正交向量正交矩阵为什么要矩阵变换成列向量为标准正交向量Gram-Schmidt正交化求解思考，为什么Ax = b，可以考虑将A 的列向量转换为 Q(列向量为标准正交向量)线性相关性与正交1、相互正交的向量肯定是线性无关的2、线性无关的向量不一定线性无关标准正交向量我们称 一组互相垂直的单位向量 为 标准正交向量组，...
2019-01-26 21:41:37
2257
原创 线性代数学习笔记14
这里第十五、十六课-子空间投影、投影矩阵和最小二乘子空间投影引入-向量的投影分析投影矩阵P转入高维情况下：最小二乘法如果A 各列是线性相关的，证明ATA 是可逆的，即一定有解的子空间投影引入-向量的投影我们首先以R2维空间中为例，一个向量投影b到另外一个向量a，含义为： 在a所在的空间中，找到离b最近的点，即垂直点，所以距离 我们也可以认为是b 距离 b到a 的投影之间的误差,对于投影 到的向...
2019-01-26 17:56:39
535
2
原创 线性代数学习笔记12
这里第十一课-复习一AX = b 、矩阵的四个子空间、矩阵空间复习题AX = b 、矩阵的四个子空间、矩阵空间复习题q:u、w、u是R7维的向量，问他们线性组合的空间维度可以是？q:u、w、u是 R7维的向量，问 他们线性组合的空间维度可以是？q:u、w、u是R7维的向量，问他们线性组合的空间维度可以是？求解0、1、2、3（注意当他们全为0向量是，可以是0维，因为没有基向量）q...
2019-01-25 23:50:49
298
原创 线性代数学习笔记13
这里第十四课-正交向量与子空间正交向量子空间与子空间正交话题引入：求解无解的方程组正交向量正交是垂直的另一种说法，n维中，向量夹脚为90度首先判断两个正交向量是否是正交的，判断条件是（根据毕达哥拉斯定律）∣∣X∣∣2+∣∣Y∣∣2=∣∣X+Y∣∣2||X||^2 + ||Y||^2 = ||X+Y||^2∣∣X∣∣2+∣∣Y∣∣2=∣∣X+Y∣∣2=>XTX+YTY=XTX+YT...
2019-01-25 23:50:27
298
原创 线性代数学习笔记11
这里第十二课-图和网络图、网络与线性代数的关系理一遍思路图、网络与线性代数的关系之前学习的课程中，接触到的向量，矩阵都是我们自己假定的，但是实际应用中，矩阵的来源是有实际意义的，如研究图的拓扑结构时，我们用到的关联矩阵。如图所示的拓扑结构:上面的图结构中，一共有4个结点，5条边，如果转化为关联矩阵(5* 4)，为：[−11000−110−1010−100100−11] {\left[...
2019-01-25 12:35:32
298
原创 线性代数学习笔记10
这里第十课-矩阵空间、秩1矩阵和小世界图矩阵空间理解空间的概念秩1矩阵思考题小世界图：矩阵空间想像一个新的向量尺度，不再是 一列，可以是二维的，即 m*n 表示一个向量矩阵空间是一种新的向量空间，满足单个矩阵向量之间的数乘、相加 封闭性对于 3 * 3 的矩阵空间来说，我们可以知道一共有9个基，对称矩阵有6个，上三角矩阵有6个，我们分析：Symmetric: 对称矩阵Upper：上三...
2019-01-23 20:40:53
222
原创 线性代数学习笔记9
这里第十课-四个基本子空间修改了一个错误矩阵的四个基本空间行空间左零空间从行空间维度的思考判断矩阵可不可逆，是通过 AX = 0是不是有非零解小小的提到了矩阵空间修改了一个错误[123]、[123]、[258] {\left[ \begin{array}{ccc}1 \\2 \\3 \end{array} \right ]}、{\left[ \begin{array}{ccc}...
2019-01-23 00:21:54
752
原创 线性代数学习笔记8
这里第九课-线性相关性、基、维数线性相关性AX = 0 非零解：向量组生成空间，空间的基Rn 空间的基空间的维度矩阵的列向量组的线性相关性与 矩阵零空间的关系线性相关性对于向量组来说，线性相关是指：存在不全为0的集合c1,c2,c3,……cn{c_1,c_2,c_3,……c_n}c1,c2,c3,……cn使得{c1x1+c2x2+c3x3+……+cnxn=0 \left\{\b...
2019-01-22 17:48:14
302
原创 阅读感受-致命的自负1
嗯，书里面的点挺多的，悟性太差，记一些有所感悟的点扩展秩序：哈耶克认为社会的发展本身是不受个人控制的，但是受集体行为的影响，最终产生的一种秩序，这种秩序产生的原因很难去说如何如何演变的，但是绝对不会是简单的本能反应或者理性思考而来～这种秩序种各种结构、传统、制度和其他成分，是在各种行为中的习惯方式进行选择种逐渐产生的。这里是强调秩序是发展的结果，而不是那些站在理性制高点处的群体的思考结果。本...
2019-01-22 16:04:10
375
原创 线性代数学习笔记7
这里第八课-求解Ax=b：可解性和解的结构AX = b 的特例AX = b 如果可解时求解方法：总结AX = b 的可解性分析矩阵秩与 方程组解的关系AX = b 的特例例子：{x1+2x2+2x3+2x4=b12x1+4x4+6x3+8x4=b23x6+x2+8x3+10x4=b3 \left\{\begin{aligned}x_1+2x_2 + 2x_3+2x_4 &...
2019-01-21 23:24:34
1555
原创 线性代数学习笔记6
这里第七课- 求解Ax=0：主变量、特解引入矩阵的零向量利用消元法来求解方程组简化行阶梯形式矩阵引入之前讲了通过矩阵我们可以构建两类向量空空间，但是并没有讲如何取求解的问题，这节课讲了如何求解矩阵的零向量矩阵的零向量矩阵的零向量，即是 AX = 0 的X 的解，其可以构成一个空间，所以称之为矩阵的零空间所以我们的重心还是如何求解 AX = 0这个方程组利用消元法来求解方程组因为消...
2019-01-21 13:43:03
521
原创 线性代数学习笔记5
这里第四课- 列空间和零空间矩阵的列空间矩阵的零空间总结：矩阵的列空间、零空间是构成子空间的两种手段矩阵的列空间矩阵的列空间是指：由矩阵的各列进行线性组合的之后形成的空间，这个是满足空间的定义的比如列向量是4维的，所以矩阵的各列构成的列空间是R4的一个子空间那么有，子空间与子空间，即不同子空间，取并，如，过原点直线和过原点平面在不覆盖的情况下，取并之后，不能构成一个空间不同子空间之间取...
2019-01-20 20:34:45
805
原创 线性代数学习笔记4
这里第四课- 向量空间回顾上节课讲到的置换矩阵、转置对称矩阵向量空间（默认列向量）回顾上节课讲到的置换矩阵、转置置换矩阵的定义是 重新排列的单位矩阵置换矩阵的逆 为 置换矩阵的的转置矩阵转置后，行列位置互换对称矩阵R = RTR RT 肯定为一个对称矩阵向量空间（默认列向量）1、由向量组成的空间2、满足规则：空间内的向量进行 数乘、相加等操作，结果仍在该向量空间 中3、R2...
2019-01-20 14:26:34
251
原创 线性代数学习笔记3
这里第四课- A的LU分解E1 E2 的逆：A 转置的逆 和 A 的逆的转置消元的目的，只是为了更加正确的理解矩阵的概念转置与置换下一节，线性代数可以由前面的消元法解方程组来引入，但是我们将用向量空间 对线性代数进行更加深入的探索～E1 E2 的逆：E1 E2 的逆 为 E2-1 E1 -1形象比喻 如果先脱了裤子，再拖袜子，穿的时候，就是先穿袜子，再穿裤子A 转置的逆 和 A 的逆的转...
2019-01-20 00:06:58
1022
原创 线性代数学习笔记2
这里第二、三课- 方程组的几何解释第二节课：围绕消元法消元法的矩阵表示消元法无法求解 -> 方程无解 ->举出特例第三节课：围绕矩阵的乘法：提出矩阵乘法的五种计算方法：总结一下：矩阵如果可以想乘需要满足的条件：矩阵A的逆如何求矩阵的逆第二节课：围绕消元法消元法的矩阵表示消元法无法求解 -> 方程无解 ->举出特例第三节课：围绕矩阵的乘法：提出矩阵乘
2019-01-19 00:02:58
252
原创 栈的使用_leetcode刷题总结
那些可以用栈可以轻松AC的题目：1、有效的括号 https://leetcode-cn.com/problems/valid-parentheses/给定一个只包括 ‘(’，’)’，’{’，’}’，’[’，’]’ 的字符串，判断字符串是否有效。有效字符串需满足：左括号必须用相同类型的右括号闭合。左括号必须以正确的顺序闭合。注意空字符串可被认为是有效字符串。示例 1:输入: “...
2019-01-16 19:35:33
645
原创 动态规划初步续_leetcode刷题总结
紧接着上一篇，继续撕～上一篇已经举例了不少，可能大家会有一种感觉是，动态规划计算顺序十分的直接，从前往后算就行啦，但是这可能是一种错觉哦～比如这一题：8、地下城游戏 https://leetcode-cn.com/problems/dungeon-game/一些恶魔抓住了公主（P）并将她关在了地下城的右下角。地下城是由 M x N 个房间组成的二维网格。我们英勇的骑士（K）最初被安...
2019-01-16 15:29:09
262
原创 动态规划初步_leetcode刷题总结
动态规划，我之前也是不了解的，嘻嘻嘻只是后面发现在相关搜索题目中，如果只需要求解的树木或者相关数值问题时候，往往使用动态规划会比深度遍历搜索高效很多。jio得还可以好吧因为考虑到大家对于动态规划不是很熟悉，我们先来一个简单的小练习来上手下动态规划。对于爬楼梯的问题，相信大家都比较熟悉吧，一次可以走一步，也可以走两步，请问走到第100步，有多少种走法？首先，这个问题，很容易想到 f(100...
2019-01-15 21:43:25
283
原创 滑动窗口复习以及变种_leetcode刷题总结
额，其实我一开始也不知道滑动窗口的，哈哈哈哈哈1、无重复字符的最长子串 https://leetcode-cn.com/problems/longest-substring-without-repeating-characters/给定一个字符串，请你找出其中不含有重复字符的 最长子串 的长度。示例 1:输入: “abcabcbb”输出: 3解释: 因为无重复字符的最长子串是 “a...
2019-01-15 18:15:38
286
opengl中把shadow语言文件化处理代码
2017-11-26
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人