机器学习之路 - 微积分

机器学习中的微积分基础 机器学习中的微积分基础 夹逼定理及重要极限 极限存在定理 导数 方向导数与梯度 凸函数 泰勒公式机器学习中的微积分基础夹逼定理及重要极限当x∈U(x0,r)x\in U(x_{0},r)时,有g(x)<=f(x)<=h(x)成立,并且limx→x0g(x)=A\lim\limits_{x \to x_{0}}g(x)=A,limx→x0h(x)=A\lim\limits_{x \to x_{0}}h 阅读详情

机器学习之路 - 微积分

持续更新中…

路漫漫其修远兮,机器学习之路从数学开始,包括概率论与数理统计,微积分基础,线性代数(矩阵运算),本文总结了微积分相关的概念和性质

1. 邻域

U ( a , δ ) ≜ { x   ∣    ∣ x − a ∣ < δ } = ( a − δ , a + δ ) U(a,\delta)\triangleq \{x\ |\ \ |x-a|<\delta\}=(a-\delta,a+\delta) U(a,δ)≜{x ∣  ∣x−a∣<δ}=(a−δ,a+δ)
a

U ( a , δ ) U(a,\delta) U(a,δ)为a的 δ \delta δ邻域
U ˚ ( a , δ ) ≜ { x ∣ 0 < ∣ x − a ∣ < δ } \mathring{U}(a,\delta)\triangleq \{x|0<|x-a|<\delta\} U˚(a,δ)≜{x∣0<∣x−a∣<δ}

b

U ˚ ( a , δ ) \mathring{U}(a,\delta) U˚(a,δ)为a的去心 δ \delta δ邻域,左邻域,右邻域

2. 常用函数

  • 绝对值函数
    y = ∣ x ∣ = { − x   x < 0 x      x ≤ 0 y=|x|=\begin{cases} -x\:x\lt0 \\ x\:\:\:\:x\le0 \end{cases} y=∣x∣={−xx<0xx≤0​
    001

  • 符号函数
    y = { − 1   x < 0 0   x = 0 1   x > 0 y=\begin{cases} -1 \:x\lt0 \\ 0\:x=0 \\ 1\:x\gt0 \end{cases} y=⎩⎪⎨⎪⎧​−1x<00x=01x>0​
    002

  • 分段函数
    y = f ( x ) = { 2 x   0 ≤ x ≤ 1 1 + x   x > 1 y=f(x)=\begin{cases} 2\sqrt{x}\:0\le x\le 1 \\ 1+x\:x\gt1 \end{cases} y=f(x)={2x ​0≤x≤11+xx>1​
    003

  • 取整函数

    [ x ] ≜ [x]\triangleq [x]≜最接近 x x x左边的整数,即向下取整
    y = f ( x ) = [ x ] y=f(x)=[x] y=f(x)=[x]
    004

  • 狄利克雷(Dirichlet)函数
    D ( x ) = { 1   x ∈ Q 0   x ∈ Q c D(x)=\begin{cases} 1\: x\in Q \\ 0\:x\in Q^c \end{cases} D(x)={1x∈Q0x∈Qc​

3. 函数性质

  1. 有界性

    y = f ( x ) ( x ∈ D ) y=f(x)\quad(x\in D) y=f(x)(x∈D)

    当 ∃ M > 0 , ∀ x ∈ D \exist M>0, \forall x\in D ∃M>0,∀x∈D,有 ∣ f ( x ) ∣ ≤ M |f(x)|\le M ∣f(x)∣≤M

    则 f ( x ) f(x) f(x)在 D D D上有界

    若 f ( x ) ≥ M 1 f(x)\ge M_1 f(x)≥M1​,则 f ( x ) f(x) f(x)有下界或

    c

    若 f ( x ) ≤ M 2 f(x)\le M_2 f(x)≤M2​,则 f ( x ) f(x) f(x)有上界

  2. 单调性

    y = f ( x ) ( x ∈ D ) y=f(x)\quad(x\in D) y=f(x)(x∈D)

    若 ∀ x 1 , x 2 ∈ D 且 x 1 < x 2 \forall x_1,x_2\in D且x_1<x_2 ∀x1​,x2​∈D且x1​<x2​,有 f ( x 1 ) < f ( x 2 ) f(x_1)<f(x_2) f(x1​)<f(x2​)

    则 y = f ( x ) y=f(x) y=f(x)在 x ∈ D x\in D x∈D上严格递减

    另有单调递增,单调不减,单调不增

  3. 反函数

    y = f ( x ) ( x ∈ D ) y=f(x)(x\in D) y=f(x)(x∈D)

    y = f ( x ) ⇒ x = ϕ ( y ) y=f(x)\Rightarrow x=\phi(y) y=f(x)⇒x=ϕ(y)

    { x + x 2 + 1 = e y ① − x + x 2 + 1 = e − y ② \begin{cases}x+\sqrt{x^2+1}=e^y\qquad①\\ -x+\sqrt{x^2+1}=e^{-y}\qquad②\end{cases} {x+x2+1 ​=ey①−x+x2+1 ​=e−y②​

    ① − ② ⇒ 2 x = e y − e − y ⇒ x = e y − e − y 2 ①-②\Rightarrow2x=e^y-e^{-y}\Rightarrow x=\frac{e^y-e^{-y}}{2} ①−②⇒2x=ey−e−y⇒x=2ey−e−y​

    反函数为: x = e y − e − y 2 x=\frac{e^y-e^{-y}}{2} x=2ey−e−y​

  4. 奇偶性

    y = f ( x ) , x ∈ D , D 关 于 原 点 对 称 y=f(x),x\in D,D关于原点对称 y=f(x),x∈D,D关于原点对称

    若 { f ( − x ) = − f ( x ) ,   y = f ( x ) 为 奇 函 数 f ( − x ) = f ( x ) ,   y = f ( x ) 为 偶 函 数 \begin{cases} f(-x)=-f(x),\:y=f(x)为奇函数 \\ f(-x)=f(x),\:y=f(x)为偶函数 \end{cases} {f(−x)=−f(x),y=f(x)为奇函数f(−x)=f(x),y=f(x)为偶函数​

  5. 周期性: f ( x + l ) = f ( x ) f(x+l)=f(x) f(x+l)=f(x)恒成立

    l l l为周期,通常指最小正周期。 s i n   x sin\:x sinx, c o s   x cos\:x cosx都是以 2 π 2\pi 2π为周期的周期函数, t a n   x tan\:x tanx是以 π \pi π为周期的周期函数

    在每个长度为 l l l的区间上,函数图形有相同形状。

4.极限

性 质 { 一 般 性 质 { 唯 一 性 保 号 性 局 部 有 界 性 运 算 性 质 存 在 性 质 性质\begin{cases} 一般性质\begin{cases} 唯一性 \\ 保号性 \\ 局部有界性 \end{cases} \\ 运算性质 \\ 存在性质 \end{cases} 性质⎩⎪⎪⎪⎪⎪⎪⎨⎪⎪⎪⎪⎪⎪⎧​一般性质⎩⎪⎨⎪⎧​唯一性保号性局部有界性​运算性质存在性质​

4.1 数列极限

4.1.1 定义

a n = n n + 1 : 1 2 , 2 3 , 3 4 , … a_n=\frac{n}{n+1}:\frac{1}{2},\frac{2}{3},\frac{3}{4},\dots an​=n+1n​:21​,32​,43​,…

∣ a n − 1 ∣ = 1 n + 1 |a_n-1|=\frac{1}{n+1} ∣an​−1∣=n+11​

取 ϵ 1 = 1 10 \epsilon_1=\frac{1}{10} ϵ1​=101​, ∣ a n − 1 ∣ = 1 n + 1 < 10 ⇒ n > 9 |a_n-1|=\frac{1}{n+1}\lt 10\Rightarrow n\gt 9 ∣an​−1∣=n+11​<10⇒n>9

​ ϵ 1 = 1 100 \epsilon_1=\frac{1}{100} ϵ1​=1001​, ∣ a n − 1 ∣ = 1 n + 1 < 100 ⇒ n > 99 |a_n-1|=\frac{1}{n+1}\lt 100\Rightarrow n\gt 99 ∣an​−1∣=n+11​<100⇒n>99

​ … \dots …

∀ ϵ > 0 , ∣ a n − 1 ∣ = 1 n + 1 < ϵ    ⟺    n > [ 1 ϵ ] − 1 , 即 lim ⁡ n → ∞ a n = 1 \forall \epsilon\gt 0,|a_n-1|=\frac{1}{n+1}\lt\epsilon\iff n\gt [\frac{1}{\epsilon}]-1,即\lim_{n\to\infin}a_n=1 ∀ϵ>0,∣an​−1∣=n+11​<ϵ⟺n>[ϵ1​]−1,即limn→∞​an​=1

a n = 1 n 2 + 1 a_n=\frac{1}{n^2+1} an​=n2+11​

∀ ϵ > 0 , ∣ a n − 0 ∣ = 1 n 2 + 1 < ϵ    ⟺    n > [ 1 ϵ − 1 ] , 即 lim ⁡ n → ∞ a n = 0 \forall \epsilon\gt 0,|a_n-0|=\frac{1}{n^2+1}\lt\epsilon\iff n\gt [\sqrt{\frac{1}{\epsilon}-1}],即\lim_{n\to\infin}a_n=0 ∀ϵ>0,∣an​−0∣=n2+11​<ϵ⟺n>[ϵ1​−1 ​],即limn→∞​an​=0

定义: { a n } \{a_n\} {an​}数列,A为常数(constant),若 ∀ ϵ > 0 , ∃ N > 0 \forall \epsilon \gt 0, \exists N\gt 0 ∀ϵ>0,∃N>0当 n > N n\gt N n>N时, ∣ a n − A ∣ < ϵ |a_n-A|<\epsilon ∣an​−A∣<ϵ

则称 A A A为 { a n } \{a_n\} {an​}的极限,记作:
lim ⁡ n → ∞ a n = A \lim_{n\to\infin}a_n=A n→∞lim​an​=A

例1.
证明 lim ⁡ n → ∞ n 2 n + 1 = 1 2 \lim_{n\to\infin}\frac{n}{2n+1}=\frac{1}{2} limn→∞​2n+1n​=21​

∀ ϵ > 0 \forall\epsilon\gt 0 ∀ϵ>0

∣ n 2 n + 1 − 1 2 ∣ = 1 2 ( 2 n + 1 ) < ϵ    ⟺    n > 1 2 ( 1 2 ϵ − 1 ) |\frac{n}{2n+1}-\frac{1}{2}|=\frac{1}{2(2n+1)}\lt\epsilon\iff n\gt \frac{1}{2}(\frac{1}{2\epsilon}-1) ∣2n+1n​−21​∣=2(2n+1)1​<ϵ⟺n>21​(2ϵ1​−1)
取 N = [ 1 2 ( 1 2 ϵ − 1 ) ] N=[\frac{1}{2}(\frac{1}{2\epsilon}-1)] N=[21​(2ϵ1​−1)],当 n > N n\gt N n>N
∣ n 2 n + 1 − 1 2 ∣ < ϵ |\frac{n}{2n+1}-\frac{1}{2}|\lt\epsilon ∣2n+1n​−21​∣<ϵ

例2.
证明 l i m n → ∞ 2 n 2 − 1 2 n 2 + 1 = 1 lim_{n\to \infin}\frac{2n^2-1}{2n^2+1}=1 limn→∞​2n2+12n2−1​=1

证: ∀ ϵ > 0 \forall\epsilon\gt0 ∀ϵ>0

∣ 2 n 2 − 1 2 n 2 + 1 − 1 ∣ = 2 2 n 2 + 1 ≤ 1 n 2 < ϵ    ⟺    n > 1 ϵ |\frac{2n^2-1}{2n^2+1}-1|=\frac{2}{2n^2+1}\le\frac{1}{n^2}\lt\epsilon\iff n\gt\sqrt{\frac{1}{\epsilon}} ∣2n2+12n2−1​−1∣=2n2+12​≤n21​<ϵ⟺n>ϵ1​ ​

取 N = [ 1 ϵ ] N=[\sqrt{\frac{1}{\epsilon}}] N=[ϵ1​ ​]当 n > N n\gt N n>N时,

∣ 2 n 2 − 1 2 n 2 + 1 − 1 ∣ < ϵ |\frac{2n^2-1}{2n^2+1}-1|<\epsilon ∣2n2+12n2−1​−1∣<ϵ

∴ l i m n → ∞ 2 n 2 − 1 2 n 2 + 1 = 1 \therefore lim_{n\to \infin}\frac{2n^2-1}{2n^2+1}=1 ∴limn→∞​2n2+12n2−1​=1

4.1.2 数列极限的性质

极限是计算,凡计算就有性质,各种计算有自己的性质

  1. 唯一性

    若 l i m n → ∞ a n = A , l i m n → ∞ a n = B lim_{n\to\infin}{a_n}=A,lim_{n\to\infin}{a_n}=B limn→∞​an​=A,limn→∞​an​=B

    则 A = B A=B A=B

    证(反正法):设 A ≠ B A\ne B A​=B,不妨设 A > B A\gt B A>B
    取 ϵ = A − B 2 > 0 \epsilon=\frac{A-B}{2}\gt 0 ϵ=2A−B​>0
    ∵ l i m n → ∞ a n = A \because lim_{n\to\infin}{a_n}=A ∵limn→∞​an​=A
    ∴ ∃ N 1 > 0 \therefore \exist N_1\gt 0 ∴∃N1​>0当 n > N 1 n\gt N_1 n>N1​时
    ∣ a n − A ∣ < A − B 2    ⟺    A + B 2 < a n < 3 A − B 2 ( ∗ ) |a_n-A|<\frac{A-B}{2}\iff \frac{A+B}{2}<a_n<\frac{3A-B}{2}(*) ∣an​−A∣<2A−B​⟺2A+B​<an​<23A−B​(∗)

    又 ∵ l i m n → ∞ a n = B \because lim_{n\to\infin}{a_n}=B ∵limn→∞​an​=B

    ∴ ∃ N 2 > 0 \therefore \exist N_2\gt 0 ∴∃N2​>0当 n > N 2 n\gt N_2 n>N2​时

    ∣ a n − B ∣ < A − B 2    ⟺    3 B − A 2 < a n < A + B 2 ( ∗ ∗ ) |a_n-B|<\frac{A-B}{2}\iff\frac{3B-A}{2}\lt a_n\lt\frac{A+B}{2}(**) ∣an​−B∣<2A−B​⟺23B−A​<an​<2A+B​(∗∗)

    取 N = m a x { N 1 , N 2 } N=max\{N_1,N_2\} N=max{N1​,N2​},当 n > N n\gt N n>N时, ( ∗ ) 、 ( ∗ ∗ ) (*)、(**) (∗)、(∗∗)均成立

    此时,矛盾, ∴ A = B \therefore A=B ∴A=B

    例3: a n = ( − 1 ) n a_n=(-1)^n an​=(−1)n

    l i m n → ∞ a n lim_{n\to\infin}{a_n} limn→∞​an​不存在

  2. 有界性,有极限则有界,有界不一定有极限

    若 l i m n → ∞ a n = A lim_{n\to\infin}{a_n}=A limn→∞​an​=A,则 ∃ M > 0 \exist M\gt 0 ∃M>0使 ∣ a n ∣ ≤ M |a_n|\le M ∣an​∣≤M,反之不成立

    证:取 ϵ = 1 \epsilon=1 ϵ=1

    ∵ l i m n → ∞ a n = A \because lim_{n\to\infin}{a_n}=A ∵limn→∞​an​=A

    ∴ ∃ N > 0 \therefore \exist N\gt 0 ∴∃N>0,当 n > N n\gt N n>N, ∣ a n − A ∣ < 1 ⇒ ∣ a n ∣ < 1 + ∣ A ∣ |a_n-A|<1\Rightarrow |a_n|\lt 1+|A| ∣an​−A∣<1⇒∣an​∣<1+∣A∣

    取 M = m a x { ∣ a 1 ∣ , ∣ a 2 ∣ , … , ∣ a N ∣ , 1 + ∣ A ∣ } M=max\{|a_1|,|a_2|,\dots,|a_N|,1+|A|\} M=max{∣a1​∣,∣a2​∣,…,∣aN​∣,1+∣A∣}

    则 ∀ n \forall n ∀n,有 a n ≤ M a_n\le M an​≤M

    反例: a n = 1 + ( − 1 ) n a_n=1+(-1)^n an​=1+(−1)n, l i m n → ∞ a n lim_{n\to\infin}{a_n} limn→∞​an​不存在,但是 ∣ a n ∣ ≤ 2 |a_n|\le 2 ∣an​∣≤2

    三角不等式:
    ∣ ∣ a ∣ − ∣ b ∣ ∣ ≤ ∣ a ± b ∣ ≤ ∣ a ∣ + ∣ b ∣ \Big||a|-|b|\Big|\le\Big|a\pm b\Big|\le|a|+|b| ∣∣∣​∣a∣−∣b∣∣∣∣​≤∣∣∣​a±b∣∣∣​≤∣a∣+∣b∣
    ∣ ∣ a n ∣ − ∣ A ∣ ∣ ≤ a n − A < 1 \Big||a_n|-|A|\Big|\le a_n-A\lt 1 ∣∣∣​∣an​∣−∣A∣∣∣∣​≤an​−A<1
    ∣ a n ∣ − ∣ A ∣ < 1 |a_n|-|A|<1 ∣an​∣−∣A∣<1

  3. 保号性

    若 l i m n → ∞ a n = A > 0 ( < 0 ) lim_{n\to\infin}{a_n}=A\gt 0(\lt 0) limn→∞​an​=A>0(<0)

    则存在 ∃ N > 0 \exist N\gt 0 ∃N>0,当 n > N n\gt N n>N时, a n > 0 ( < 0 ) a_n\gt 0(\lt 0) an​>0(<0)

    证明:设 A > 0 A\gt 0 A>0

    取 ϵ = A 2 > 0 \epsilon=\frac{A}{2}\gt 0 ϵ=2A​>0

    ∵ l i m n → ∞ a n = A \because lim_{n\to\infin}{a_n}=A ∵limn→∞​an​=A

    ∴ ∃ N > 0 \therefore\exist N\gt 0 ∴∃N>0,当 n > N n\gt N n>N时

    ∣ a n − A ∣ < A 2 ⇒ a n > A 2 > 0 |a_n-A|\lt\frac{A}{2}\Rightarrow a_n\gt\frac{A}{2}>0 ∣an​−A∣<2A​⇒an​>2A​>0

4.2 函数极限

4.2.1 定义

f ( x ) = x 2 − 1 x − 1 ( x ≠ 1 ) f(x)=\frac{x^2-1}{x-1}(x\ne 1) f(x)=x−1x2−1​(x​=1)

f ( x ) = x + 1 ( x ≠ 1 ) f(x)=x+1(x\ne 1) f(x)=x+1(x​=1)

d
x → 1 − x\to1^- x→1−, f ( x ) → 2 f(x)\to 2 f(x)→2

x → 1 + ​ x\to1^+​ x→1+​, f ( x ) → 2 ​ f(x)\to 2​ f(x)→2​

x x x趋向于a的定义

x → { x ≠ a x → a − , x → a + ( 一 定 保 证 双 侧 趋 近 ) x\to\begin{cases} x\ne a \\ x\to a^-,x\to a^+(一定保证双侧趋近) \end{cases} x→{x​=ax→a−,x→a+(一定保证双侧趋近)​

证明: l i m x → 1 x 2 − 1 x − 1 = 2 lim_{x\to1}{\frac{x^2-1}{x-1}}=2 limx→1​x−1x2−1​=2

∀ ϵ > 0 \forall\epsilon\gt0 ∀ϵ>0, ∣ x 2 − 1 x − 1 − 2 ∣ = ∣ x − 1 ∣ < ϵ |\frac{x^2-1}{x-1}-2|=|x-1|\lt\epsilon ∣x−1x2−1​−2∣=∣x−1∣<ϵ ( ϵ \epsilon ϵ为误差,具有任意性)

取 δ = ϵ \delta=\epsilon δ=ϵ,当 0 < ∣ x − 1 ∣ < δ 0\lt|x-1|\lt\delta 0<∣x−1∣<δ时, ∣ x 2 − 1 x − 1 − 2 ∣ < ϵ |\frac{x^2-1}{x-1}-2|\lt\epsilon ∣x−1x2−1​−2∣<ϵ,即 l i m x → 1 x 2 − 1 x − 1 = 2 lim_{x\to1}{\frac{x^2-1}{x-1}}=2 limx→1​x−1x2−1​=2

  1. 自变量趋于有限值时,函数的极限, x x x无限接近一个常数 a a a,函数无限接近的值

    y = f ( x ) ( x ∈ D ) y=f(x)(x\in D) y=f(x)(x∈D), A A A是常数

    当 ∀ ϵ > 0 \forall\epsilon\gt 0 ∀ϵ>0, ∃ δ > 0 \exist \delta\gt 0 ∃δ>0,当 0 < ∣ x − a ∣ < δ 0\lt|x-a|\lt\delta 0<∣x−a∣<δ时,

    ∣ f ( x ) − A ∣ < ϵ |f(x)-A|\lt\epsilon ∣f(x)−A∣<ϵ

    则 A A A为 f ( x ) f(x) f(x)当 x → a x\to a x→a时的极限

    记为: l i m x → a f ( x ) = A lim_{x\to a}{f(x)}=A limx→a​f(x)=A或 f ( x ) → A ( x → a ) f(x)\to A(x\to a) f(x)→A(x→a)

    注意:

    l i m x → a f ( x ) lim_{x\to a}{f(x)} limx→a​f(x)与 f ( x ) f(x) f(x)在 x = a x=a x=a处的定义无关

    如: l i m x → 2 x 3 − 8 x − 2 = l i m x → 2 ( x 2 + 2 x + 4 ) = 12 lim_{x\to 2}{\frac{x^3-8}{x-2}}=lim_{x\to 2}({x^2+2x+4})=12 limx→2​x−2x3−8​=limx→2​(x2+2x+4)=12

    左右极限:

    l i m x → a − f ( x ) ≜ f ( a − 0 ) lim_{x\to a^-}{f(x)}\triangleq f(a-0) limx→a−​f(x)≜f(a−0) - 左极限, x x x从左侧无限接近 a a a

    l i m x → a + f ( x ) ≜ f ( a + 0 ) lim_{x\to a^+}{f(x)}\triangleq f(a+0) limx→a+​f(x)≜f(a+0) - 右极限, x x x从右侧无限接近 a a a

    l i m x → a f ( x ) lim_{x\to a}{f(x)} limx→a​f(x)存在    ⟺    f ( a − 0 ) 、 f ( a + 0 ) \iff f(a-0)、f(a+0) ⟺f(a−0)、f(a+0)存在且相等,即极限存在的充要条件:左右极限都存在且二者相等

    例1. l i m x → 2 ( 3 x + 1 ) = 7 lim_{x\to 2}{(3x+1)}=7 limx→2​(3x+1)=7

    证: ∀ ϵ > 0 \forall\epsilon\gt 0 ∀ϵ>0

    ∣ ( 3 x + 1 ) − 7 ∣ = 3 ∣ x − 2 ∣ < ϵ    ⟺    ∣ x − 2 ∣ < ϵ 3 |(3x+1)-7|=3|x-2|\lt\epsilon\iff |x-2|\lt\frac{\epsilon}{3} ∣(3x+1)−7∣=3∣x−2∣<ϵ⟺∣x−2∣<3ϵ​

    取 δ = ϵ 3 \delta=\frac{\epsilon}{3} δ=3ϵ​

    当 0 < ∣ x − 2 ∣ < δ 0\lt|x-2|\lt\delta 0<∣x−2∣<δ时, ∣ ( 3 x + 1 ) − 7 ∣ < ϵ |(3x+1)-7|<\epsilon ∣(3x+1)−7∣<ϵ

    即: l i m x → 2 ( 3 x + 1 ) = 7 lim_{x\to2}{(3x+1)}=7 limx→2​(3x+1)=7

    例2. l i m x → 1 x 3 − 1 x − 1 = 3 lim_{x\to 1}\frac{x^3-1}{x-1}=3 limx→1​x−1x3−1​=3

    证: ∀ ϵ > 0 \forall\epsilon\gt0 ∀ϵ>0

    ∣ x 3 − 1 x − 1 − 3 ∣ = ∣ x 2 + x + 1 − 3 ∣ = ∣ x 2 + x − 2 ∣ = ∣ x + 2 ∣ ∙ ∣ x − 1 ∣ < 4 ∣ x − 1 ∣ < ϵ    ⟺    ∣ x − 1 ∣ < ϵ 4 |\frac{x^3-1}{x-1}-3|=|x^2+x+1-3|=|x^2+x-2|=|x+2|\bullet|x-1|<4|x-1|\lt\epsilon\iff|x-1|\lt\frac{\epsilon}{4} ∣x−1x3−1​−3∣=∣x2+x+1−3∣=∣x2+x−2∣=∣x+2∣∙∣x−1∣<4∣x−1∣<ϵ⟺∣x−1∣<4ϵ​取 δ = m i n { ϵ 4 , 1 } \delta=min\{\frac{\epsilon}{4}, 1\} δ=min{4ϵ​,1},当 0 < ∣ x − 1 ∣ < δ 0\lt|x-1|\lt\delta 0<∣x−1∣<δ时, ∣ x 3 − 1 x − 1 − 3 ∣ < ϵ |\frac{x^3-1}{x-1}-3|<\epsilon ∣x−1x3−1​−3∣<ϵ

    即: l i m x → 1 x 3 − 1 x − 1 = 3 lim_{x\to 1}\frac{x^3-1}{x-1}=3 limx→1​x−1x3−1​=3

  2. 自变量趋于无穷时,函数的极限
    x → ∞ { x → + ∞ x → − ∞ x → ± ∞ x\to\infty\begin{cases} x\to+\infty \\ x\to-\infty \\ x\to\pm\infty\end{cases} x→∞⎩⎪⎨⎪⎧​x→+∞x→−∞x→±∞​

    case 1. x → + ∞ x\to+\infty x→+∞,当 ∀ ϵ > 0 \forall\epsilon\gt0 ∀ϵ>0, ∃ X > 0 \exist X\gt0 ∃X>0,当 x > X x\gt X x>X时, ∣ f ( x ) − A ∣ < ϵ |f(x)-A|\lt\epsilon ∣f(x)−A∣<ϵ,称 A A A为 f ( x ) f(x) f(x)当 x → + ∞ x\to+\infty x→+∞时的极限

    例3: x → + ∞    ⟹    1 x → 0    ⟹    3 1 x → 1 x\to+\infty\implies\frac{1}{x}\to0\implies3^{\frac{1}{x}}\to1 x→+∞⟹x1​→0⟹3x1​→1

    例4: l i m x → + ∞ 2 x 2 x 2 + 1 = 2 lim_{x\to+\infty}{\frac{2x^2}{x^2+1}}=2 limx→+∞​x2+12x2​=2

    证: ∀ ϵ > 0 \forall\epsilon\gt0 ∀ϵ>0

    ∣ 2 x 2 x 2 + 1 − 2 ∣ = 2 x 2 + 1 < x 2 2 < ϵ    ⟺    x > 2 ϵ |\frac{2x^2}{x^2+1}-2|=\frac{2}{x^2+1}\lt\frac{x^2}{2}\lt\epsilon\iff x\gt\sqrt{\frac{2}{\epsilon}} ∣x2+12x2​−2∣=x2+12​<2x2​<ϵ⟺x>ϵ2​ ​

    取 X = 2 ϵ X=\sqrt{\frac{2}{\epsilon}} X=ϵ2​ ​,当 x > X x\gt X x>X时,

    ∣ 2 x 2 x 2 + 1 − 2 ∣ < ϵ |\frac{2x^2}{x^2+1}-2|\lt\epsilon ∣x2+12x2​−2∣<ϵ

    ∴ l i m x → + ∞ 2 x 2 x 2 + 1 = 2 \therefore lim_{x\to+\infty}{\frac{2x^2}{x^2+1}}=2 ∴limx→+∞​x2+12x2​=2

    case 2. x → − ∞ x\to -\infty x→−∞

    若 ∀ ϵ > 0 , ∃ X > 0 \forall \epsilon\gt0,\exist X\gt0 ∀ϵ>0,∃X>0,当 x < − X x\lt -X x<−X时,有 ∣ f ( x ) − A ∣ < ϵ |f(x)-A|<\epsilon ∣f(x)−A∣<ϵ,则称 A A A为 f ( x ) f(x) f(x)当 x → − ∞ x\to-\infty x→−∞时的极限,记作: l i m x → − ∞ f x = A lim_{x\to-\infty}{fx}=A limx→−∞​fx=A

    case 3. x → ± ∞ ( ∞ )    ⟹    x 2 → + ∞    ⟹    e − x 2 → 0 x\to\pm\infty(\infty)\implies x^2\to+\infty\implies e^{-x^2}\to0 x→±∞(∞)⟹x2→+∞⟹e−x2→0

    若 ∀ ϵ > 0 , ∃ > 0 \forall\epsilon\gt0, \exist\gt0 ∀ϵ>0,∃>0,当 ∣ x ∣ > X |x|\gt X ∣x∣>X时,有 ∣ f ( x ) − A ∣ < ϵ |f(x)-A|<\epsilon ∣f(x)−A∣<ϵ,则称 A A A为 f ( x ) f(x) f(x)当 x → ∞ x\to\infty x→∞时的极限,记作: l i m x → ∞ f x = A lim_{x\to\infty}{fx}=A limx→∞​fx=A

4.2.2 函数极限的性质

  1. 唯一性 - 函数极限存在即唯一

    l i m x → a f ( x ) = A , l i m x → a f ( x ) = B    ⟹    A = B lim_{x\to a}{f(x)}=A,\quad lim_{x\to a}{f(x)}=B\implies A=B limx→a​f(x)=A,limx→a​f(x)=B⟹A=B

    l i m x → + ∞ f ( x ) = A , l i m x → + ∞ f ( x ) = B    ⟹    A = B lim_{x\to +\infty}{f(x)}=A,\quad lim_{x\to +\infty}{f(x)}=B\implies A=B limx→+∞​f(x)=A,limx→+∞​f(x)=B⟹A=B

    l i m x → − ∞ f ( x ) = A , 1 m m l i m x → − ∞ f ( x ) = B    ⟹    A = B lim_{x\to -\infty}{f(x)}=A,\quad {1mm}lim_{x\to -\infty}{f(x)}=B\implies A=B limx→−∞​f(x)=A,1mmlimx→−∞​f(x)=B⟹A=B

    l i m x → ∞ f ( x ) = A , l i m x → ∞ f ( x ) = B    ⟹    A = B lim_{x\to \infty}{f(x)}=A,\quad lim_{x\to \infty}{f(x)}=B\implies A=B limx→∞​f(x)=A,limx→∞​f(x)=B⟹A=B

  2. 保号性

    l i m x → a f ( x ) > 0 ( < 0 )    ⟹    ∃ ϵ > 0 , 当 0 < ∣ x − a ∣ < ϵ 时 , f ( x ) > 0 ( < 0 ) lim_{x\to a}{f(x)}\gt0(\lt0)\implies \exist\epsilon\gt0,当0\lt|x-a|\lt\epsilon时,f(x)\gt0(\lt0) limx→a​f(x)>0(<0)⟹∃ϵ>0,当0<∣x−a∣<ϵ时,f(x)>0(<0)

    极限正,则去心领域正,极限负,则去心领域负

  3. 局部有界性

4.3 无穷小和无穷大

4.3.1 无穷小

l i m x → a α ( x ) = 0 lim_{x\to a}\alpha(x)=0 limx→a​α(x)=0,则 α ( x ) \alpha(x) α(x)当 x → a x\to a x→a时为无穷小

l i m x → ∞ α ( x ) = 0 lim_{x\to\infty}\alpha(x)=0 limx→∞​α(x)=0,则 α ( x ) \alpha(x) α(x)当 x → ∞ x\to\infty x→∞时为无穷小

例

3 ( x − 1 ) 2 3(x-1)^2 3(x−1)2, l i m x → 1 3 ( x − 1 ) 2 = 0 lim_{x\to 1}{3(x-1)^2}=0 limx→1​3(x−1)2=0, 3 ( x − 1 ) 2 3(x-1)^2 3(x−1)2当 x → 1 x\to 1 x→1时为无穷小

0是无穷小, l i m 0 = 1 lim0=1 lim0=1

4.3.2 无穷大

l i m x → 1 f ( x ) = ∞ lim_{x\to 1}{f(x)}=\infty limx→1​f(x)=∞,则 f ( x ) f(x) f(x)当 x → a x\to a x→a时为无穷大

l i m x → 1 1 f ( x ) = 0 lim_{x\to 1}{\frac{1}{f(x)}}=0 limx→1​f(x)1​=0,则 f ( x ) f(x) f(x)当 x → a x\to a x→a时为无穷大

无穷小和无穷大为倒数关系

4.4 极限运算法则

  1. l i m x → a / ∞ f ( x ) = A    ⟺    f ( x ) = A + α lim_{x\to a/\infty}{f(x)}=A\iff f(x)=A+\alpha limx→a/∞​f(x)=A⟺f(x)=A+α,其中 α → 0 ( x → a / ∞ ) \alpha\to 0(x\to a/\infty) α→0(x→a/∞)

  2. α → 0 , β → 0 ,    ⟹    α ± β → 0 \alpha\to0,\beta\to0,\implies \alpha\pm\beta\to0 α→0,β→0,⟹α±β→0, x → a x\to a x→a

  3. α → 0 ( x → a ) , ∣ β ∣ ≤ M    ⟹    α β → 0 ( x → a ) \alpha\to0(x\to a),|\beta|\le M\implies \alpha\beta\to0(x\to a) α→0(x→a),∣β∣≤M⟹αβ→0(x→a)

  4. 若 l i m f ( x ) = A , l i m g ( x ) = B lim{f(x)}=A,lim{g(x)}=B limf(x)=A,limg(x)=B,那么

    l i m [ f ( x ) ± g ( x ) ] = l i m f ( x ) ± l i m g ( x ) = A ± B lim{[f(x)\pm g(x)]}=lim{f(x)}\pm lim{g(x)}=A\pm B lim[f(x)±g(x)]=limf(x)±limg(x)=A±B

    l i m [ f ( x ) × g ( x ) ] = l i m f ( x ) × l i m g ( x ) = A × B lim{[f(x)\times g(x)]}=lim{f(x)}\times lim{g(x)}=A\times B lim[f(x)×g(x)]=limf(x)×limg(x)=A×B

    若又有 B ≠ 0 B\ne0 B​=0,则

    l i m f ( x ) g ( x ) = l i m f ( x ) l i m g ( x ) = A B lim{\frac{f(x)}{g(x)}}=\frac{lim{f(x)}}{lim{g(x)}}=\frac{A}{B} limg(x)f(x)​=limg(x)limf(x)​=BA​

  5. 如果 l i m f ( x ) lim{f(x)} limf(x)存在, c c c为常数,那么: l i m [ c f ( x ) ] = c l i m f ( x ) lim[{cf(x)}]=clim{f(x)} lim[cf(x)]=climf(x)

  6. 如果 l i m f ( x ) limf(x) limf(x)存在, n n n为正整数,那么: l i m [ f ( x ) ] n = [ l i m f ( x ) ] n lim[f(x)]^n=[limf(x)]^n lim[f(x)]n=[limf(x)]n

  7. 若 φ ( x ) ≥ ψ ( x ) \varphi(x)\ge\psi(x) φ(x)≥ψ(x),而 l i m φ ( x ) = A , l i m ψ ( x ) = B lim{\varphi(x)}=A,lim{\psi(x)}=B limφ(x)=A,limψ(x)=B,那么 A ≥ B A\ge B A≥B

  8. (复合函数的极限运算法则)设函数 y = [ f ( x ) ] y=[f(x)] y=[f(x)]是由函数 u = g ( x ) u=g(x) u=g(x)与函数 y = f ( u ) y=f(u) y=f(u)复合而成, f [ g ( x ) ] f[g(x)] f[g(x)]在点 x 0 x_0 x0​的某去心领域内有定义,若 l i m g ( x ) = u 0 lim{g(x)}=u_0 limg(x)=u0​, l i m u → u 0 f ( u ) lim_{u\to u_0}{f(u)} limu→u0​​f(u)=A,且存在 δ > 0 \delta\gt0 δ>0,当 x ∈ U ˚ ( x 0 , δ 0 ) x\in \mathring{U}(x_0,\delta_0) x∈U˚(x0​,δ0​)时,有 g ( x ) ≠ u 0 g(x)\ne u_0 g(x)​=u0​,则: l i m x → x 0 f [ g ( x ) ] = l i m u → u 0 f ( u ) = A lim_{x\to x_0}{f[g(x)]}=lim_{u\to u_0}{f(u)}=A limx→x0​​f[g(x)]=limu→u0​​f(u)=A

4.5 夹逼定理

数列

a n ≤ b n ≤ c n l i m n → ∞ a n = l i m n → ∞ c n = A }    ⟹    l i m n → ∞ b n = A \left. \begin{array}{r} a_n\le b_n\le c_n \\ lim_{n\to \infty}{a_n}=lim_{n\to\infty}{c_n}=A \end{array} \right \} \implies lim_{n\to\infty}{b_n}=A an​≤bn​≤cn​limn→∞​an​=limn→∞​cn​=A​}⟹limn→∞​bn​=A

例

1 − 1 n ≤ 1 + 1 n ≤ 1 + 2 n 1-\frac{1}{n}\le 1+\frac{1}{n}\le 1+\frac{2}{n} 1−n1​≤1+n1​≤1+n2​

l i m n → ∞ ( 1 − 1 n ) = 1 l i m n → ∞ ( 1 + 2 n ) = 1 }    ⟹    l i m n → ∞ ( 1 + 1 n ) = 1 \left. \begin{array}{r} lim_{n\to\infty}{(1-\frac{1}{n})}=1 \\ lim_{n\to\infty}{(1+\frac{2}{n})}=1 \end{array} \right\} \implies lim_{n\to\infty}{(1+\frac{1}{n})}=1 limn→∞​(1−n1​)=1limn→∞​(1+n2​)=1​}⟹limn→∞​(1+n1​)=1

函数

{ f ( x ) ≤ g ( x ) ≤ h ( x ) l i m f ( x ) = l i m h ( x ) = A    ⟹    l i m g ( x ) = A \begin{cases} f(x)\le g(x) \le h(x) \\ lim{f(x)}=lim{h(x)}=A \end{cases} \implies lim{g(x)}=A {f(x)≤g(x)≤h(x)limf(x)=limh(x)=A​⟹limg(x)=A

5. 导数

5.1 实例

  1. s = s ( t ) , t ∈ [ t 1 , t 2 ] s=s(t), t\in [t_1, t_2] s=s(t),t∈[t1​,t2​]

    t = t 0 t=t_0 t=t0​,求 v ( t 0 ) v(t_0) v(t0​)

    取 [ t 0 , t 0 + Δ ] [t_0,t_0+\Delta] [t0​,t0​+Δ], Δ s = s ( t 0 + Δ t ) − s ( t 0 ) \Delta s=s(t_0+\Delta t) - s(t_0) Δs=s(t0​+Δt)−s(t0​)

    平均速度: v ˉ = Δ s Δ t \bar{v}=\frac{\Delta s}{\Delta t} vˉ=ΔtΔs​

    瞬时速度: v ( t 0 ) = l i m Δ t → 0 Δ s Δ t v(t_0)=lim_{\Delta t\to 0}{\frac{\Delta s}{\Delta t}} v(t0​)=limΔt→0​ΔtΔs​

  2. y = f ( x ) y=f(x) y=f(x)

    k ˉ = f ( x 0 + Δ x ) − f ( x 0 ) Δ x \bar{k}=\frac{f(x_0+\Delta x)-f(x_0)}{\Delta x} kˉ=Δxf(x0​+Δx)−f(x0​)​

    Δ x → 0 \Delta x \to 0 Δx→0时, k ˉ \bar{k} kˉ为 M 0 M_0 M0​的切线,即:

    k 切 = l i m Δ x → 0 f ( x 0 + Δ x ) − f ( x 0 ) Δ x k_切=lim{\Delta x\to 0}{\frac{f(x_0+\Delta x)-f(x_0)}{\Delta x}} k切​=limΔx→0Δxf(x0​+Δx)−f(x0​)​

    005

5.2 导数定义

y = f ( x ) ( x ∈ D ) y=f(x)(x\in D) y=f(x)(x∈D), x 0 ∈ D . x 0 + Δ x ∈ D x_0 \in D. x_0 +\Delta x \in D x0​∈D.x0​+Δx∈D

Δ y = f ( x 0 + Δ x ) − f ( x 0 ) \Delta y=f(x_0 +\Delta x) -f(x_0) Δy=f(x0​+Δx)−f(x0​)

若 l i m Δ x → 0 Δ y Δ x lim_{\Delta x\to0}{\frac{\Delta y}{\Delta x}} limΔx→0​ΔxΔy​存在,称 f ( x ) f(x) f(x)在 x = x 0 x=x_0 x=x0​处可导,表示切线斜率,表明变化率

极限值为 f ( x ) f(x) f(x)在 x = x 0 x=x_0 x=x0​处的导数,记着: f ′ ( x 0 ) f'(x_0) f′(x0​)或 d y d x ∣ x = x 0 \frac{dy}{dx}|_{x=x_0} dxdy​∣x=x0​​

注:

  1. f ′ ( x ) ≜ l i m x → x 0 f ( x ) − f ( x 0 ) x − x 0 f'(x)\triangleq lim_{x\to x_0}{\frac{f(x)-f(x_0)}{x-x_0}} f′(x)≜limx→x0​​x−x0​f(x)−f(x0​)​

  2. 若 f ′ ( x 0 ) f'(x_0) f′(x0​)存在,则 f ( x ) f(x) f(x)在 x = x 0 x=x_0 x=x0​处连续(在 x 0 x_0 x0​处,极限值=函数值),可导一定连续,连续不一定可导,即:可导是连续的充分非必要条件

  3. 左导数: f _ ′ ( x 0 ) = l i m Δ x → 0 − Δ y Δ x f'_\_(x_0)=lim_{\Delta x\to 0^-}{\frac{\Delta y}{\Delta x}} f_′​(x0​)=limΔx→0−​ΔxΔy​

  4. 左导数: f + ′ ( x 0 ) = l i m Δ x → 0 + Δ y Δ x f'_+(x_0)=lim_{\Delta x\to 0^+}{\frac{\Delta y}{\Delta x}} f+′​(x0​)=limΔx→0+​ΔxΔy​

  5. f ′ ( x 0 ) f'(x_0) f′(x0​)存在    ⟺    \iff ⟺ f _ ′ ( x 0 ) f'_\_(x_0) f_′​(x0​)、 f + ′ ( x 0 ) f'_+(x_0) f+′​(x0​)存在且相等(左右导数)

    左右导数不等的例子

    f ( x ) = { e x − 1 , x < 0 l n ( 1 + 2 x ) , x ≥ 0 f(x)=\left \{ \begin{array}{l} e^x - 1,x\lt 0 \\ ln{(1+2x)}, x\ge 0 \end{array} \right. f(x)={ex−1,x<0ln(1+2x),x≥0​

    f _ ′ ( 0 ) = l i m x → 0 − f ( x ) − f ( 0 ) x − 0 = 1 f'_\_(0)=lim_{x\to 0^-}{\frac{f(x)-f(0)}{x-0}}=1 f_′​(0)=limx→0−​x−0f(x)−f(0)​=1

    f + ′ ( 0 ) = l i m x → 0 + f ( x ) − f ( 0 ) x − 0 = 2 f'_+(0)=lim_{x\to 0^+}{\frac{f(x)-f(0)}{x-0}}=2 f+′​(0)=limx→0+​x−0f(x)−f(0)​=2

    左右导数都存在但不相等,所以导数 f ′ ( 0 ) f'(0) f′(0)不存在

  6. 瞬时速度: v ( t 0 ) = s ′ ( t 0 ) v(t_0)=s'(t_0) v(t0​)=s′(t0​)

    瞬时加速度: a ( t 0 ) = v ′ ( t 0 ) a(t_0)=v'(t_0) a(t0​)=v′(t0​)

    f ( x ) f(x) f(x)在 M 0 ( x 0 , f ( x 0 ) ) M_0(x_0,f(x_0)) M0​(x0​,f(x0​))的切线: y − f ( 0 ) = f ′ ( x 0 ) ( x − x 0 ) y-f(0)=f'(x_0)(x-x_0) y−f(0)=f′(x0​)(x−x0​)

5.3 求导数

5.3.1 定义求导数

根据定义计算对应的极限值即可

y = f ( x ) = x n y=f(x)=x^n y=f(x)=xn

f ′ ( x ) = n x n − 1 f'(x)=nx^{n-1} f′(x)=nxn−1

x n − a n = ( x − a ) ( x n − 1 + a x n − 2 + ⋯ + a n − 1 ) x^n-a^n=(x-a)(x^{n-1}+ax^{n-2}+\dots+a^{n-1}) xn−an=(x−a)(xn−1+axn−2+⋯+an−1)

例: x 5 − a 5 = ( x − a ) ( x 4 + a x 3 + a 2 x 2 + a 3 x + a 4 ) x^5-a^5=(x-a)(x^4+ax^3+a^2x^2+a^3x+a^4) x5−a5=(x−a)(x4+ax3+a2x2+a3x+a4)

5.3.2 求导法则

初等函数求导:

幂函数: ( x a ) ′ = a n a − 1 , a ∈ R (x^a)'=an^{a-1},a\in R (xa)′=ana−1,a∈R,特殊: ( x ) ′ = 1 2 x (\sqrt{x})'=\frac{1}{2\sqrt{x}} (x ​)′=2x ​1​, ( 1 x ) ′ = 1 x 2 (\frac{1}{x})'=\frac{1}{x^2} (x1​)′=x21​

指数函数: ( a x ) ′ = a x l n ( a ) (a^x)'=a^xln(a) (ax)′=axln(a),特殊: ( e x ) ′ = e x (e^x)'=e^x (ex)′=ex

对数函数: ( l o g a x ) ′ = 1 x l n ( a ) , ( a > 0 且 a ≠ 1 ) (log_{a}{x})'=\frac{1}{xln(a)},(a>0且a\ne 1) (loga​x)′=xln(a)1​,(a>0且a​=1),特殊: ( l n ( x ) ) ′ = 1 x (ln(x))'=\frac{1}{x} (ln(x))′=x1​

三角函数:

( s i n ( x ) ) ′ = c o s ( x ) (sin(x))'=cos(x) (sin(x))′=cos(x)

反三角函数:

6. 微分

机器学习之微积分零基础学习 机器学习是目前热门行业,需要学习的基础是掌握数学中的微积分➕概率论➕数理统计➕线性代数。 零基础的学习者可以通过我的这本零基础学习微积分教程,一同掌握我们需要学习的微积分知识。 (机器学习需要的全部数学基础我都会慢慢讲诉完毕。) 有疑问的朋友可以加我的QQ:1047495710 一同交流机器学习或者python的相关知识 或者有单子可以联系我 好了,我们继续今天的课程,大家请先记住我的名字,我叫小秃。 首先,我们掌握微积分,需要具备一些基础知识。 1.函数 2.反函数 3.函数的复合 4.奇函数和偶函数 5 阅读详情

相关推荐

机器学习中的数学:微积分与最优化

专栏亮点 篇幅短小精悍,帮你提炼重点:这不是一个大而全的高等数学课程,而是一个简明扼要的专栏,解决的是机器学习中最优化问题所需要的核心基础概念,但对于最重要的微分基础、多元分析、优化基础和多元极值四部分知识,我们则进行庖丁解牛式的透彻讲解。 使用 Python 工具,无缝对接工程:教你用熟、用好 NumPy、SciPy、Matplotlib、Pandas 等工具库,无缝对接工程实践应用。 结合优...

GitChat 1894

微积分基础2-积分篇

微积分

让你爱上电路设计 7281

机器学习笔记(一)微积分

微积分@(Machine Learning)[微积分, 概率论]1.夹逼定理:当x∈U(x0,r)x \in U(x_0,r)时,有g(x)≤f(x)≤h(x)g(x)\leq f(x)\leq h(x)成立,并且limx→x0g(x)=A,limx→x0h(x)=A\lim_{x \to x_0}g(x) =A , \lim_{x \to x_0}h(x) =A 那么:limx→x0f(x)=

自然语言处理小站 3194

微积分常用公式

一、基本导数公式 二、导数的四则运算法则 三、高阶导数的运算法则 四、基本初等函数的n阶导数公式 五、微分公式与微分运算法则 六、微分运算法则 七、基本积分公式 八、补充积分公式 九、下列常用凑微分公式 十、分部积分法公式 十一、第二换元积分法中的三角换元公式 十二、重要公式 十三、下列常用等价无穷小关系 十四、三角函数公式 十五、几种常见的微分方程 ...

攻城狮成长日志 17万+

第7.1章:StarRocks性能调优——查询分析

第7.1章:StarRocks性能调优——查询分析

爱吃辣条的博客 6477

常见卫星图源下载教程

上面列出的8个常见的亚米级别数据源都可以通过xyz协议或者wmts/wms协议进行下载。这些协议是什么?地理信息数据为了方便网络传输,制定了一系列的地理数据传输标准(wms/wmts/xyz等)。协议特点优点缺点栅格数据支持矢量数据支持WMS通过HTTP请求获取GIS数据,服务器会将数据渲染成图像高度定制的地图;交互性强服务器渲染图像,响应时间较长支持有限支持WMTS提供预渲染的地图瓦片速度快,因为地图瓦片可以预先生成并在请求时快速提供瓦片的内容是预先确定的,无法进行定制支持。

锐多宝的地理空间 1万+

发现数学之美--微积分的起源和用途(一文搞懂微积分)

数学,改变世界的基石。微积分十九世纪的三大自然发现之一,迪卡尔建立了解析几何,把数与图结合在一起,微积分的发现与创立,是数学新的里程碑,解决了常规方法无法解决的问题,是一次伟大的革命。迪卡尔的解析几何,牛顿的微积分,都是创造,互相关联着,缺一不可。

猫哥 的沉淀、积累、总结。天天学习,好好向上...c/c++,嵌入式 linux,Android,HarmonyOS,AIOT) 1万+

MultiOTP Credential Provider避坑指南:从安装到RDP双因素认证的全流程解析

本文详细解析了MultiOTP Credential Provider从安装到实现RDP双因素认证(MFA)的全流程,重点分享了Docker部署、Active Directory集成及网络级认证(NLA)兼容性等环节的实战避坑经验,旨在帮助运维人员高效、稳定地部署离线双因素认证方案,提升Windows远程桌面安全性。

weixin_29255731的博客 649

【数学基础】这些微积分公式,你记得吗?

机器学习必备微积分公式基础不定积分公式 基础不定积分公式 ∫kdx=kx+C\int k dx = kx+C∫kdx=kx+C ∫xμdx=xμ+1μ+1+C,μ≠−1\int x^\mu dx=\frac{x^{\mu +1}}{\mu +1} +C, \mu \ne -1∫xμdx=μ+1xμ+1​+C,μ​=−1 ∫dxx=ln⁡∣x∣+C\int \frac{dx}{x} = \ln |x|+C∫xdx​=ln∣x∣+C ∫11+x2dx=arctan⁡x+C\int \frac

小哲的博客 1万+

保姆级教程:手把手教你用Python+Zemax仿真一个简易的Nd:YAG固体激光器谐振腔

本文提供了一份详细的Python与Zemax结合的Nd:YAG固体激光器谐振腔仿真教程。从基础理论到实战操作,涵盖晶体参数化、谐振腔设计、泵浦建模、动态仿真及热效应补偿等关键步骤,适合光学专业学生和工程师快速掌握激光器仿真技术。

weixin_30500473的博客 744

Curve+ 5.0.2:新一代色彩校准工具如何革新印刷行业标准

Curve+ 5.0.2作为新一代色彩校准工具,通过G7+校准算法和SCTV技术革新了印刷行业的色彩管理标准。该工具显著提升色彩精准度,减少打样时间和材料浪费,支持专色处理,实现跨材质色彩一致性,为印刷企业带来效率与质量的全面提升。

weixin_29228781的博客 529

微积分基础1-微分篇

本文详细介绍了微积分的基础知识,包括极限的定义(数列极限与函数极限)、邻域的概念及其作用,以及等价无穷小替换。接着,深入探讨了导数的定义、导函数、微分的几何意义,以及高阶导数。还讨论了利用导数研究函数的单调性、极值、凹凸性等性态。此外,涵盖了洛必达法则、泰勒公式及其在近似计算中的应用。通过对这些概念的深入理解,有助于掌握微积分的基本思想和方法。

让你爱上电路设计 8468

等保测评-达梦数据库

一般适用于等保测评

m0_54146694的博客 1300

机器学习必会技能之微积分【一文到底】

机器学习必会技能之微积分【一文到底】

代码改变世界 2355

simulink建模仿真实例1000例--第375例:基于Simulink进行复杂交通流的仿真建模

特点多车互动:模拟多个车辆之间的相互作用。动态变化:交通流量随时间和事件(如事故、天气变化)而变化。多样化驾驶行为:考虑不同的驾驶员行为模式(激进型、保守型等)。挑战准确性:准确地模拟各种因素对交通流的影响。实时性:处理大量车辆数据,并迅速做出反应。可扩展性:支持从简单场景到复杂城市交通网络的扩展。首先明确要模拟的任务内容。模拟不同类型的车辆(轿车、卡车、公交车等)。考虑不同驾驶员的行为模式。分析交通拥堵、事故对交通流的影响。

xiaoheshang_123的博客 204

动态规划之【树形DP】第3课:树形DP应用案例实践2

动态规划之【树形DP】第3课:树形DP应用案例实践2

王老师青少年编程 773

Machine Learning Mastery 微积分教程(三)

原文:Machine Learning Mastery 协议:CC BY-NC-SA 4.0 微积分的应用:神经网络 原文:machinelearningmastery.com/calculus-in-action-neural-networks/ 人工神经网络是一个计算模型,用于逼近输入和输出之间的映射。 它的灵感来自于人脑的结构,因为它类似地由一个互联的神经元网络组成,这些神经元在接收到来自邻近神经元的一组刺激后传播信息。 训练神经网络涉及一个过程,该过程同时使用反向传播和梯度下降算法。正如我们

龙哥盟 2171

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

如何学习机器学习微积分_机器学习中的微积分

如何学习机器学习微积分 重点 (Top highlight) 机器学习 , 数学 (Machine Learning, Mathematics) 一,引言 (I. Introduction) A machine learning algorithm (such as classification, clustering or regression) uses a training dataset...

weixin_26726011的博客 1097

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

机器学习(四) | 微积分

在微分学最重要的应用是优化问题,即考虑如何把事情做到最好。在深度学习中,我们“训练”模型,不断更新它们,使它们在看到越来越多的数据时变得越来越好。通常情况下,变得更好意味着最小化一个损失函数(loss function), 即一个衡量“模型有多糟糕”这个问题的分数。最终,我们真正关心的是生成一个模型,它能够在从未见过的数据上表现良好。但“训练”模型只能将模型与我们实际能看到的数据相拟合。因此,我们可以将拟合模型的任务分解为两个关键问题:优化(optimization):用模型拟合观测数据的过程;

weixin_56649832的博客 1531

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

Machine Learning Mastery 微积分教程(二)

原文:Machine Learning Mastery 协议:CC BY-NC-SA 4.0 斜率和切线的温和介绍 原文:machinelearningmastery.com/a-gentle-introduction-to-slopes-and-tangents/ 直线的斜率及其与曲线切线的关系是微积分中的一个基本概念。它对于函数导数的一般理解非常重要。 在本教程中,你将了解什么是直线的斜率以及什么是曲线的切线。 完成本教程后,你将了解: 直线的斜率 关于 x 的 f(x)在区间上的平均变

龙哥盟 2113

Machine Learning Mastery 微积分教程(四)

原文:machinelearningmastery.com/what-is-calculus/微积分是研究变化的数学。微积分在解决复杂但连续问题上的有效性在于它能够将问题切分成无限简单的部分,分别解决这些部分,然后再将它们重建成原来的整体。这一策略可以应用于研究所有可以这样切分的连续元素,无论是几何形状的曲率,还是飞行物体的轨迹,或时间间隔。在本教程中,你将发现微积分的起源及其应用。完成本教程后,你将知道:什么是微积分?微积分如何应用于现实世界?让我们开始吧。什么是微积分?,保留部分权利。

龙哥盟 1613

机器学习之多元微积分

对上图的例子,计算导数时要先展开成图中的格式,然后根据导数的定义,|| f(x + delta x) - f(x) || / ||x||机器学习的多元微积分跟高等数学中的多元微积分有很多不同之处。此定理我也理解的不够深入,先放在这里,以后有机会仔细研究。

要把所有那些负面的信息当做对自身行为的评价,而不是对自身价值的评判。 809

30天精通线性代数与微积分:ML-foundations终极学习指南

想要在机器学习领域脱颖而出?掌握**线性代数**和**微积分**是成功的关键!🚀 ML-foundations项目为初学者提供了完整的学习路径,让你在短短30天内快速掌握机器学习所需的数学基础。 ## 为什么机器学习需要数学基础? 机器学习就像一座房子,需要坚实的地基支撑。ML-foundations项目通过"机器学习之屋"的生动比喻,清晰展示了数学在AI领域的重要性。 [![机器学习之屋

gitblog_00259的博客 885

机器学习的数学基础--微积分

合集 - scikit-learn(39)1.【scikit-learn基础】--概述2023-12-022.【scikit-learn基础】--『数据加载』之玩具数据集2023-12-043.【scikit-learn基础】--『数据加载』之真实数据集2023-12-064.【scikit-learn基础】--『数据加载』之样本生成器2023-12-085.【scikit-learn基础】--『...

weixin_30611317的博客 530

机器学习数学之--微积分参考

由于高数是十多年前学的,最近在看许多NLP和ML相关的文章遇到了一些微积分卡壳了。这里找一份资料作为参考。主要是单变量微积分。多变量微积分的参考资料会在后续进行更新。 这是宾夕法尼亚大学大学本科高数的参考wiki之一。当然初等微积分(微分,积分)可能还需要参考其他资料 http://calculus.seas.upenn.edu/ 由于服务器后台更新, 无法正常浏览数学公式。可能需要安...

sesiria的博客 529

机器学习与深度学习:微积分知识汇总

微积分是现代数学的基础,线性代数,矩阵论,概率论,信息论,最优化方法等数学课程都需要用到微积分的知识。单就机器学习和深度学习来说,更多用到的是微分。积分基本上只在概率论中被使用,概率密度函数、分布函数等概念和计算都要借助于积分来定义或计算。 几乎所有的机器学习算法在训练或者预测时都是求解最优化问题,因此需要依赖于微积分来求解函数的极值,而模型中某些函数的选取,也有数学性质上的...

Lmy0906的博客 977
上一篇: Fun with Sorting Algorithms
下一篇: 数据结构与算法复习-C语言回顾
DataPeak
博客等级 码龄15年 32粉丝 68原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值