【动手学深度学习】预备知识整理-1

原创

已于 2024-03-04 20:40:19 修改 · 1.1k 阅读

20 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #人工智能

于 2024-03-04 20:01:52 首次发布

本文概述了深度学习预备知识，包括专业术语解释、Python库autograd中的广播机制、高级Python类Numpy的使用，以及线性代数中的向量和范数概念，强调了矢量化加速在编程中的重要性。

前言

学习资料
B站视频地址：
跟李沐学AI
花书-电子书地址
其他资料：鱼书，cs231n
源代码下载地址
 习题解答源代码
 习题解答在线阅读地址

一、专业术语

中文	英文
张量	tensor
连结	concatenate
按元素	elementwise
广播机制	broadcasting mechanism
标量	scalar
变量	variable
分量	component
维度	dimension
转置	transpose
对称矩阵	symmetric matrix
通道	channel
按元素乘法	Hadamard product
点积	dot product $\odot$
范数	norm
积分	integral calculus
微分	differential calculus
损失函数	loss function
优化	optimization
泛化	generalization
梯度	gradient
自动微分	automatic differentiation
计算图	computational graph
反向传播	backpropagation
智能体	agent
事件	event
大数定律	law of large numbers
抽样	sampling
分布	distribution
多项分布	multinomial distribution
样本空间	sample space
概率	probability
互斥	mutually exclusive
随机变量	random variable
离散	discrete
连续	continuous
密度	density
标签	label
联合概率	joint probability
条件概率	conditional probability
乘法法则	multiplication rule
求和法则	sum rule
边际化	marginalization
边际概率	marginal probability
边际分布	marginal distribution
依赖	dependence
独立	independence
期望	expectation
平均值	average
标准差	standard deviation
回归	regression
预测	prediction
线性回归	Linear regression
训练数据集/训练集	training data set /training set
样本	sample
互相关运算	cross-correlation
特征映射	feature map
感受野	receptive field
填充	padding
步幅	stride
通道	channel

二、广播机制

autograd包

该包会自动计算微分
广播机制通过复制自己的行或列进行填充

三、高级python

类

#class 类
class Man:
    def __init__(self,name):
        self.name=name
        print("Initialized!")
    def hello(self):
        print("Hello"+self.name+"!")
    def goodbye(self):