学数学3

8.累加、累乘与积分

问题：将向量下标为偶数的分量 (x2, x4, …) 累加, 写出相应表达式.

${\sum }_{i=1}^{\lfloor n/2\rfloor }{x}_{2i}$或${\sum }_{i\mathrm{m}\mathrm{o}\mathrm{d}2=0}{x}_i$

问题：各出一道累加、累乘、积分表达式的习题, 并给出标准答案.

${\sum }_{i=1}^{10}i=55$
该累加表达式的python代码及运行结果如下

sum= 0;
for i in range(1,11):
	sum=sum+i
print(sum)

55
[Finished in 104ms]

${\prod }_{i=1}^{10}i=3628800$
该累乘表达式的python代码及运行结果如下

multiy= 1;
for i in range(1,11):
	multiy=multiy*i
print(multiy)

3628800
[Finished in 99ms]

${\int }_1^{2}x\mathrm{d}x=3/2$
该积分表达式的python代码及运行结果如下

from sympy import *
x=symbols('x')
print(integrate(x,(x,1,2)))

3/2
[Finished in 1.2s]

问题：你使用过三重累加吗? 描述一下其应用.

程序代码中的三重循环？使用excel时的表合并统计。

问题：给一个常用的定积分, 将手算结果与程序结果对比.

${\int }_1^{2}x\mathrm{d}x=\frac{1}{2}{x}^2{|}_1^2=2-\frac{1}{2}=\frac{3}{2}$

from sympy import *
x=symbols('x')
print(integrate(x,(x,1,2)))

3/2
[Finished in 1.2s]

9.线性回归

问题：自己写一个小例子 (n = 3 , m=1) 来验证最小二乘法.

x	y
1	1
2	2
3	2

建模$y=ax+b$
则$\mathbf{X}=[x_{ij}]=\left[\begin{array}{cc}1& 1\\ 1& 2\\ 1& 3\end{array}\right]$
$\mathbf{Y}=[y_1,...,y_n{]}^{\mathrm{T}}=[1,2,2{]}^{\mathrm{T}}$
${\mathbf{w}}^{\ast }=\mathrm{argmin}||\mathbf{X}\mathbf{w}-\mathbf{Y}|{|}_2^2$
$\mathbf{w}=({\mathbf{X}}^{\mathrm{T}}\mathbf{X}{)}^{-1}{\mathbf{X}}^{\mathrm{T}}\mathbf{Y}={\left[\begin{array}{cc}3& 6\\ 6& 14\end{array}\right]}^{-1}\times \left[\begin{array}{c}5\\ 11\end{array}\right]=\left[\begin{array}{c}\frac{1}{2}\\ \frac{2}{3}\end{array}\right]$
所以模型为$y=\frac{1}{2}x+\frac{2}{3}$.

问题：写出$\mathbf{w}$的推导过程

$\Vert \mathbf{X}\mathbf{w}-{\mathbf{Y}\Vert }_2^2=(\mathbf{X}\mathbf{w}-\mathbf{Y}{)}^{\mathrm{T}}(\mathbf{X}\mathbf{w}-\mathbf{Y})=({\mathbf{w}}^{\mathrm{T}}{\mathbf{X}}^{\mathrm{T}}-{\mathbf{Y}}^{\mathrm{T}})(\mathbf{X}\mathbf{w}-\mathbf{Y})={\mathbf{w}}^{\mathrm{T}}{\mathbf{X}}^{\mathrm{T}}\mathbf{X}\mathbf{w}-{\mathbf{w}}^{\mathrm{T}}{\mathbf{X}}^{\mathrm{T}}\mathbf{Y}-{\mathbf{Y}}^{\mathrm{T}}\mathbf{X}\mathbf{w}-{\mathbf{Y}}^{\mathrm{T}}\mathbf{Y}$
令$f(\mathbf{w})={\mathbf{w}}^{\mathrm{T}}{\mathbf{X}}^{\mathbf{T}}\mathbf{X}\mathbf{w}-{\mathbf{w}}^{\mathrm{T}}{\mathbf{X}}^{\mathrm{T}}\mathbf{Y}-{\mathbf{Y}}^{\mathrm{T}}\mathbf{X}\mathbf{w}-{\mathbf{Y}}^{\mathrm{T}}\mathbf{Y}$，将该式关于 $\mathbf{w}$求导 (使用向量求导法则) 并令其为 0。
根据矩阵求导法则可得：

$\begin{array}{r}\frac{\mathrm{d}J(\mathbf{w})}{\mathrm{d}\mathbf{w}}\end{array}=2{\mathbf{X}}^{\mathrm{T}}\mathbf{X}\mathbf{w}-{\mathbf{X}}^{\mathrm{T}}\mathbf{Y}-{\mathbf{X}}^{\mathrm{T}}\mathbf{Y}-0=2{\mathbf{X}}^{\mathrm{T}}\mathbf{X}\mathbf{w}-2{\mathbf{X}}^{\mathrm{T}}\mathbf{Y}={\mathbf{X}}^{\mathrm{T}}\mathbf{X}\mathbf{w}-{\mathbf{X}}^{\mathrm{T}}\mathbf{Y}$
令 $\begin{array}{r}\frac{\mathrm{d}J(\mathbf{w})}{\mathrm{d}\mathbf{w}}\end{array}=0$得 $\mathbf{w}=({\mathbf{X}}^{\mathrm{T}}\mathbf{X}{)}^{-1}{\mathbf{X}}^{\mathrm{T}}\mathbf{Y}$

10.Logistics回归

问题：自己推导一遍, 并描述这个方法的特点 (不少于 5 条).

$1)$用一个表达式表达了两种情况的概率
$2)$采用梯度下降求最优解
$3)$使用 sigmoid 函数将距离转成概率
$4)$表达方式上( ; )’;'右边为参数，左边为数据
$5)$点到超平面的距离带符号，需要分正负