banglu2731-优快云博客

转载理解条件概率的链式法则

条件概率:$\text{x}=x$ 事件发生时 $\text{y}=y$ 事件发生的概率:\[P(\text{y}=y|\text{x}=x)=\frac{P(\text{x}=x,\text{y}=y)}{P(\text{x}=x)}\]条件概率的链式法则也称为条件概率的乘法法则\[\begin{aligned}P(a,b,c) &= P(a|b,...

2019-06-01 11:28:00 3304

转载感知机算法python实现

感知机算法（Perceptron Learning Algorithm）是一个很容易实现的算法。本文对PLA 算法做了一个简单的实验，在数据集线性可分时，可以证明PLA算法最终会收敛。生成数据首先随机生成数据点，然后随机生成目标函数 $f$ 的权重 $weights$。def generate_data(num_of_data, num_of_features): ...

2019-05-09 11:41:00 219

转载 python逻辑表达式短路特性

python中常规的逻辑操作符使用方式如下：>>> True and FalseFalse>>> True or FalseTrue>>> not FalseTrue在对逻辑表达式进行计算，某些情况下由于“短路”特性，只需要计算部分表达式作为最终的结果。计算表达式 <left> and <rig...

2019-01-02 17:46:00 498

转载 MIT 18.06 linear algebra lecture 22 对角化和A的幂笔记

上一节主要介绍了特征值和特征向量的概念，以及如何求解特征值和特征向量。本节内容主要有：如何对角化一个有 $n$ 个线性无关特征向量的矩阵、如何利用对角化简化计算。对角化一个矩阵 $S^{-1}AS=\Lambda$如果矩阵 $A$ 有 $n$ 个线性无关的特征向量，将这些特征向量作为列向量合并为一个矩阵 $S$（方阵并且可逆）。\[\begin{aligned...

2018-12-25 13:15:00 242

转载 MIT 18.06 linear algebra lecture 21 特征值和特征向量笔记

特征值和特征向量矩阵 $A$ 的作用类似函数，输入向量 $\boldsymbol{x}$ ，输出 $A\boldsymbol{x}$。如果 $\boldsymbol{x}$ 平行于 $A\boldsymbol{x}$，则 $\boldsymbol{x}$ 为特征向量（Eigenvector）。用数学方式表达则为：\[A\boldsymbol{x}=\lamb...

2018-12-24 14:12:00 212

转载 MIT 18.06 linear algebra lecture 20 克拉默法则逆矩阵体积笔记

$A^{-1}$的公式\[\left[\begin{array}{rr} a & b\\ c & d\end{array}\right]^{-1}=\frac{1}{ad-bc}\left[\begin{array}{rr} d & -b\\ -c & a\end{array}\right]\]那么如何求...

2018-12-21 12:51:00 352

转载 MIT 18.06 linear algebra lecture 19 行列式公式和代数余子式笔记

行列式公式行列式有如下三个特性：$\text{det }I=1$交换行会反转行列式符号行列式与矩阵每行的元素呈线性关系上节通过上述三个特性推导出了七个结论，通过这十个特性去找求$2\times 2$矩阵行列式的公式：\[\begin{aligned} \left|\begin{array}{cc} a & b \\ ...

2018-12-18 21:39:00 279

转载雅可比矩阵

维基百科-雅可比矩阵假设某函数从$\mathbb{R}^n$映射到$\mathbb{R}^m$，则其雅可比矩阵是从$\mathbb{R}^n$到$\mathbb{R}^m$的线性映射，意义在于表现一个多变量向量函数的线性逼近，因此雅可比矩阵类似单变量函数的导数。假设$F:\mathbb{R}^n\rightarrow\mathbb{R}^m$是从$n$维欧氏空间...

2018-12-15 11:47:00 761

转载 MIT 18.06 linear algebra lecture 18 行列式及其性质笔记

行列式课程已经进行一半了，接下来的主要话题是行列式（determinant）和特征值（eigenvalue）。行列式是与任意方阵相关的一个实数，通常用$\text{det }A$或者$|A|$表示。行列式包含了很多关于矩阵的信息，当行列式不为$0$时，矩阵是可逆的。性质再深入学习行列式之前，先简单了解下行列式的几个性质。例如一个简单矩阵\(\left|\begin{a...

2018-12-14 13:42:00 194

转载 MIT 18.06 linear algebra lecture 17 正交矩阵和Gram-Schmidt正交化笔记

本节将介绍关于正交性质的最后一部分。使用标准正交基或者列为标准正交的矩阵会简化计算过程。Gram-Schmidt正交化能够将任意一组基转换为标准正交基，转换前后的基所生成的空间一致。标准正交向量一组向量$\boldsymbol{q}_1,\boldsymbol{q}_2,\cdots,\boldsymbol{q}_n$是标准正交的，当：\[\boldsymbol{q}_i^T...

2018-12-13 12:43:00 324

转载 MIT 18.06 linear algebra lecture 16 投影矩阵和最小二乘笔记

投影上一节提到投影矩阵$P=A(A^TA)^{-1}A^T$能将$\boldsymbol{b}$投影到$A$的列空间上。如果$\boldsymbol{b}$垂直于列空间，则$\boldsymbol{b}$在左零空间$N(A^T)$中，并且$P\boldsymbol{b}=\boldsymbol{0}$；如果$\boldsymbol{b}$在列空间中，则\...

2018-12-12 23:38:00 195

转载 MIT 18.06 linear algebra lecture 15 子空间投影笔记

投影如果有一向量$\boldsymbol{b}$和向量$\boldsymbol{a}$所在的直线，该直线上哪一点离$\boldsymbol{b}$最近？由上图可以看到，经过$\boldsymbol{b}$且与$a$所正交的直线和$\boldsymbol{a}$所在直线的交点$\boldsymbol{p}$即是满足上述条件的点。如果将\(\boldsymb...

2018-12-12 14:28:00 165

转载 MIT 18.06 linear algebra lecture 14 正交向量和子空间笔记

本节主要提到向量、基以及子空间正交（orthogonal）的概念，符号是$\perp$。矩阵的行空间和零空间是正交的，列空间和左零空间是正交的。正交向量正交和另一个以往熟知的词——垂直（perpendicular）是等价的，如果两个向量之间的角是$90^{\circ}$，则两个向量是正交的。如果两向量是正交的，两向量之和构成斜边，构成一个直角三角形。可以利用毕达哥拉斯定理证...

2018-12-10 23:16:00 262

转载 MIT 18.06 linear algebra lecture 13 复习一笔记

问题1假设$\boldsymbol{u}$、$\boldsymbol{v}$和$\boldsymbol{w}$是$\mathbb{R}^7$中的非零向量。他们生成了$\mathbb{R}^7$中的子空间，该子空间的维度可能是多少？答案：$1$、$2$ 和 $3$都可能是答案，子空间维度不可能更高，因此该子空间的基至多为三个向量。$0$ 不可能是答案...

2018-12-10 19:20:00 149

转载 MIT 18.06 linear algebra lecture 12 图和网络笔记

借助矩阵和向量这些线性代数中的工具，能够使我们更好地理解其它科学中的系统。例如化学家通常使用行向量化简更好地理解哪些元素参与了复杂的化学反应。本节课中将探讨线性代数在电路中的应用。图和网络图（graph）是一些由边连接的节点的集合。下图展示了一幅小图的节点数$n=4$，边数$m=5$：在图中的边上添上箭头，代表通过当前边的电流方向。关联矩阵下面关联矩阵（incide...

2018-12-07 14:19:00 168

转载 MIT 18.06 linear algebra lecture 11 矩阵空间秩一矩阵小世界图笔记

新向量空间之前讨论了很多关于$\mathbb{R}^n$中的向量，接下来讨论任意满足向量加法和数乘的“向量”的向量空间$3\times 3$ 矩阵上一节提到了所有$3\times 3$矩阵组成的空间$M$和其中一些子空间：所有$3\times 3$的对称矩阵$S$；所有$3\times 3$的上三角矩阵$U$；前两者的交集$D$——所有\(3\t...

2018-12-04 16:01:00 231

转载 MIT 18.06 linear algebra lecture 10 四个基本子空间笔记

本节主要讨论矩阵相关的四个基本子空间和它们之间的关系。四个子空间任何一个$m\times n$的矩阵$A$能确定四个子空间（可能仅仅包含零向量）。列空间 $C(A)$列空间由$A$的列向量的所有线性组合组成，是$\mathbb{R}^m$中的向量空间。零空间 $N(A)$$A$的零空间由\(A\boldsymbol{x}=\boldsymbol{0...

2018-12-03 15:07:00 198

转载 MIT 18.06 linear algebra lecture 9 线性相关基维数笔记

线性无关假设$A$是$m\times n$矩阵，并且$m<n$（所以$A\boldsymbol{x}=\boldsymbol{b}$中未知数比等式数量更多）。$A$至少有一个自由变量，所以$A\boldsymbol{x}=\boldsymbol{0}$存在非零解，列的线性组合为零，所以$A$的列是线性相关的。当\(c_1\boldsymbol{x_1...

2018-12-01 18:22:00 134

转载 MIT 18.06 linear algebra lecture 8 求解Ax=b 可解性和解的结构笔记

本节主要重点是，什么条件下$A\boldsymbol{x}=\boldsymbol{b}$有解？如何去描述这些解？关于$\boldsymbol{b}$的可解条件继续使用上一节的例子：\[A=\left[\begin{array}{rrrr} 1 & 2 & 2 & 2\\ 2 & 4 & 6 & 8\\ ...

2018-11-30 11:57:00 158

转载 MIT 18.06 linear algebra lecture 7 求解Ax=B 主变量特解笔记

计算零空间矩阵$A$的零空间由使$A\boldsymbol{x}=\boldsymbol{0}$的向量$\boldsymbol{x}$组成。假设：\[A=\left[\begin{array}{rrrr} 1 & 2 & 2 & 2\\ 2 & 4 & 6 & 8\\ 3 & 6 &am...

2018-11-29 17:57:00 171

转载 MIT 18.06 linear algebra lecture 6 列空间和零空间笔记

子空间回顾向量空间指的是在线性组合下是封闭的一组向量：向量空间中的任意两个向量$\boldsymbol v$和$\boldsymbol w$，在任取两个实数$c$和$d$的情况下，$c\boldsymbol v\times d\boldsymbol w$同样在该向量空间中。假设平面$P$和直线$L$均经过原点\(\begin{bmatrix} 0 \\ ...

2018-11-28 22:15:00 137

转载 MIT 18.06 linear algebra lecture 5 转置-置换-向量空间笔记

置换矩阵乘以置换矩阵$p$后，能够交换行，应用消元法时，通过置换矩阵移走主元为$0$的行。之前$A$的$LU$分解时，假设不需要交换行，实际情况可能会碰到需要交换行的情况，因此$A=LU$变为$PA=LU$，其中$P$是一个置换矩阵，用来对$A$的行重新排序，需要记住的是$P^{-1}=P^T$，$PP^T=I$。转置求矩阵的转置时，行变成列...

2018-11-28 16:49:00 184

转载 markdown中在矩阵运算上方增加矩阵名称

在矩阵上面标记出矩阵的名称，实际上是把这些矩阵的名称也当作矩阵内的元素，下面的矩阵和运算符等也是作为最外层矩阵的元素。示例如下，亲测博客园markdown编辑器和印象笔记有效。$$\begin{matrix} A & B & & C\\ \left[\begin{array}{rr} 1 & 0 \\ ...

2018-11-28 13:53:00 613

转载 MIT 18.06 linear algebra lecture 4 A的LU分解笔记

本节主要在理解高斯消元法的基础上，寻找一个矩阵$L$使得$A=LU$。首先介绍一下关于一些关于矩阵乘法有用的性质。矩阵乘积的逆$AB$的逆矩阵是$B^{-1}A^{-1}$。矩阵乘积的转置通过互换矩阵的行和列得到转置，换句话说$A$的第$i$行第$j$列元素是$A^T$第$j$行第$i$列的元素。$AB$的转置是$B^TA^T$，...

2018-11-28 13:44:00 162

转载 markdown渲染增广矩阵及矩阵内元素对齐

最近学习MIT线代做笔记时顺便掌握了如何在markdown渲染增广矩阵，顺带还能选择不同的方式对齐矩阵内的元素。直接给出例子，亲测在博客园编辑器（mathjax）和印象笔记中均有效（katex）：$$\left[\begin{array}{lcr|r} -1 & 2 & 1 & 2\\ 3 & 18 & 1 & 12\...

2018-11-27 19:49:00 1223

转载 MIT 18.06 linear algebra lecture 3 矩阵乘法和逆矩阵笔记

矩阵乘法下面讨论四种不同的矩阵乘法思路。以两个矩阵的乘法为例，$AB=C$。其中$A$是$m\times n$矩阵，$B$是$n\times p$矩阵，$C$是$m\times p$矩阵，$c_{ij}$是矩阵$C$中第$i$行第$j$列的元素。标准乘法（行乘以列）标准乘法中，$A$的第$i$行和$B$的第$j$列的点积...

2018-11-27 19:18:00 216

转载 MIT 18.06 linear algebra lecture 2 消元法笔记

消元法基本上所有计算机软件都是用消元法（Elimination）解线性方程组。当$\boldsymbol{A}$矩阵可逆时，通过消元法可以求得$A\boldsymbol{x}=\boldsymbol{b}$的解$\boldsymbol{x}$。\[A = \begin{bmatrix} 1 & 2 & 1\\ 3 & 8 &...

2018-11-23 18:30:00 163

转载 MIT 18.06 linear algebra lecture 1 方程组的几何解释笔记

线性代数的基本问题是解方程组：\[\begin{aligned}2x-y &= 0 \\-x+2y &= 3\end{aligned}\]从几何的角度，可以从行图像、列图像两个角度解决方程组row picture在例子中方程组的每个等式，是二维空间内的一条直线，显然两个等式所代表直线的交点，便是该方程组的解。column picture从列图像的角...

2018-11-23 16:59:00 164

转载机器学习项目清单

目录 1. 确定问题 2. 获取数据 3. 探索数据 4. 准备数据 5. 初步选择可能有用的模型 6. 微调系统 7. 展示解决方案 8. 部署！本篇博客源于《Hands on Machin...

2018-10-29 23:44:00 122

转载 231. 2的幂

给定一个整数，编写一个函数来判断它是否是 2 的幂次方。示例 1:输入: 1输出: true解释: 20 = 1示例 2:输入: 16输出: true解释: 24 = 16示例 3:输入: 218输出: false解法：转化为二进制字符串，只有一个1的即是2的幂次方class Solution: def isPowerOfTwo(self, n): ...

2018-10-29 21:37:00 97

转载远程ubuntu服务器开启jupyter notebook服务

本文主要介绍如何在ubuntu 16.04上配置jupyter notebook，便于笔记本等其它终端通过ip直接访问jupyter notebook。如何安装jupyter notebook就按下不表，在之前的文章中有介绍过，也可以直接安装anaconda。接下来主要讲如何配置jupyter notebook，下面的步骤可以通过ssh远程登录机器完成。生成配置文件$ jupyt...

2018-10-26 18:21:00 635

转载 ubuntu 16.04 通过nvm安装nodejs和npm（淘宝镜像加速）

nvm(node)用于管理nodejs的不同版本。本文主要包括:nvm安装使用淘宝镜像加速nvm使用淘宝镜像加速npm安装用于编译源码的工具$ sudo apt-get update$ sudo apt-get install build-essential libssl-dev获取并编译nvm从项目github地址获取nvm安装脚本$ curl -sL htt...

2018-10-22 13:13:00 504

转载 Chapter-1 The Machine Learning Landscape —— 《Hands On Machine Learning with Scikit-Learn and TensorF...

什么是机器学习?机器学习领域主要研究如何让计算机通过学习掌握特定的技能，而不是具体编程 —— Arthur Samuel如果一个计算机程序通过经验$E$，能够在任务$T$上的表现$P$更好，那么可以认为计算机学习到了东西 —— Tom Mitchell为什么需要机器学习？解决传统具体编程难以解决的问题发现隐藏的关联，更好地理解问题机器学习的不同类型训练...

2018-10-18 17:21:00 233

转载 linux命令行编辑操作

移动光标按键组合作用ctrl+a (ahead)移动光标到行首ctrl+e (end)移动光标到行行尾ctrl+f (forward)光标向前移动一位，等价于右箭头ctrl+b (back)光标向后移动一位，等价于左箭头alt+f (forward)向前移动一个字alt+b (back)向后移动一个字ctrl+l清空屏...

2018-10-11 16:23:00 358

转载 conda创建虚拟环境并安装tensorflow

创建虚拟环境$ conda create -n tensorflow-1.11 pip python=3.6进入虚拟环境$ source activate tensorflow-1.11# 退出虚拟环境$ source deactivate tensorflow-1.11安装GPU版本的tensorflow$ pip install -i https://py...

2018-10-09 17:35:00 271

转载设计循环队列

设计你的循环队列实现。循环队列是一种线性数据结构，其操作表现基于 FIFO（先进先出）原则并且队尾被连接在队首之后以形成一个循环。它也被称为“环形缓冲器”。循环队列的一个好处是我们可以利用这个队列之前用过的空间。在一个普通队列里，一旦一个队列满了，我们就不能插入下一个元素，即使在队列前面仍有空间。但是使用循环队列，我们能使用这些空间去存储新的值。你的实现应该支持如下操作：MyC...

2018-09-27 13:47:00 156

转载 671. 二叉树中第二小的节点

给定一个非空特殊的二叉树，每个节点都是正数，并且每个节点的子节点数量只能为 2 或 0。如果一个节点有两个子节点的话，那么这个节点的值不大于它的子节点的值。给出这样的一个二叉树，你需要输出所有节点中的第二小的值。如果第二小的值不存在的话，输出 -1 。示例 1:输入: 2 / \ 2 5 / \ 5 7输出: 5说明: 最小的值是...

2018-09-25 16:46:00 81

转载 230. 二叉搜索树中第K小的元素

给定一个二叉搜索树，编写一个函数 kthSmallest 来查找其中第 k 个最小的元素。说明：你可以假设 k 总是有效的，1 ≤ k ≤ 二叉搜索树元素个数。示例 1:输入: root = [3,1,4,null,2], k = 1 3 / \ 1 4 \ 2输出: 1示例 2:输入: root = [5,3,6,2,4,null,null,1]...

2018-09-25 15:17:00 71

转载 606. 根据二叉树创建字符串

你需要采用前序遍历的方式，将一个二叉树转换成一个由括号和整数组成的字符串。空节点则用一对空括号 "()" 表示。而且你需要省略所有不影响字符串与原始二叉树之间的一对一映射关系的空括号对。示例 1:输入: 二叉树: [1,2,3,4] 1 / \ 2 3 / 4 输出: "1(2(4))(3)"解释: 原本...

2018-09-25 12:49:00 83

转载 653. 两数之和 IV - 输入 BST

给定一个二叉搜索树和一个目标结果，如果 BST 中存在两个元素且它们的和等于给定的目标结果，则返回 true。**案例 1:*输入: 5 / \ 3 6 / \ \2 4 7Target = 9输出: True案例 2:输入: 5 / \ 3 6 / \ \2 4 7Target = 28...

2018-09-25 11:14:00 109

空空如也

空空如也