循环神经网络,2024年最新软件测试校招面试经验汇总

先自我介绍一下,小编浙江大学毕业,去过华为、字节跳动等大厂,目前阿里P7

深知大多数程序员,想要提升技能,往往是自己摸索成长,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年最新软件测试全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友。
img
img
img
img
img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上软件测试知识点,真正体系化!

由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新

如果你需要这些资料,可以添加V获取:vip1024b (备注软件测试)
img

正文

h

𝑏

h

)

h𝑡 = tanh( 𝑥_𝑡𝑤_{𝑥ℎ}+ℎ_{𝑡−1}w_{ℎℎ} + 𝑏ℎ)

ht=tanh(xt​wxh​+ht−1​whh​+bh)其中,

𝑤

𝑥

h

w

h

h

𝑤_{𝑥ℎ}、w_{ℎℎ}

wxh​、whh​为权重矩阵,

𝑏

h

𝑏ℎ

bh为偏置,

𝑥

𝑡

𝑥_𝑡

xt​为当前时刻的输入特征,

h

𝑡

1

ℎ_{𝑡−1}

ht−1​为记忆体上一时刻存储的状态信息,

t

a

n

h

tanh

tanh 为激活函数

当前时刻循环核的输出特征

𝑦

𝑡

=

s

o

f

t

m

a

x

(

h

𝑡

𝑤

h

𝑦

𝑏

y

)

𝑦_𝑡=softmax(ℎ_𝑡𝑤_{ℎ𝑦}+𝑏y )

yt​=softmax(ht​why​+by)其中

w

w

y

w_{wy}

wwy​为权重矩阵、

𝑏

y

𝑏y

by 为偏置、

s

o

f

t

m

a

x

softmax

softmax为激活函数,其实就相当于一层全连接层。我们可以设定记忆体的个数从而改变记忆容量,当记忆体个数被指定、输入

𝑥

𝑡

𝑥_𝑡

xt​输出

y

t

y_t

yt​维度被指定,周围这些待训练参数的维度也就被限定了。
在前向传播时,记忆体内存储的状态信息h𝑡𝑡在每个时刻都被刷新,而三个参数矩阵

w

x

h

w_{xh}

wxh​、

w

h

h

w_{hh}

whh​、

w

h

y

w_{hy}

why​和两个偏置项

b

h

bh

bh、

b

y

by

by 自始至终都是固定不变的。在反向传播时,三个参数矩阵和两个偏置项由梯度下降法更新。

1.3 循环核按时间步展开

将循环核按时间步展开,就是把循环核按照时间轴方向展开,可以得到如下图的形式。每个时刻记忆体状态信息

h

t

h_t

ht​被刷新,记忆体周围的参数矩阵和两个偏置项是固定不变的,我们训练优化的就是这些参数矩阵。训练完成后,使用效果最好的参数矩阵执行前向传播,然后输出预测结果。

其实这和我们人类的预测是一致的:我们脑中的记忆体每个时刻都根据当前的输入而更新;当前的预测推理是根据我们以往的知识积累用固化下来的“参数矩阵”进行的推理判断。
可以看出,循环神经网络就是借助循环核实现时间特征提取后把提取到的信
息送入全连接网络,从而实现连续数据的预测。

1.4 循环计算层:向输出方向生长

在RNN中,每个循环核构成一层循环计算层,循环计算层的层数是向输出方向增长的。如下图所示,左图的网络有一个循环核,构成了一层循环计算层;中图的网络有两个循环核,构成了两层循环计算层;右图的网络有三个循环核,构成了三层循环计算层。其中,三个网络中每个循环核中记忆体的个数可以根据我们的需求任意指定。

1.5 RNN 训练

得到 RNN 的前向传播结果之后,和其他神经网络类似,我们会定义损失函数,使用反向传播梯度下降算法训练模型。
RNN 唯一的区别在于:由于它每个时刻的节点都可能有一个输出,所以 RNN 的总损失为所有时刻(或部分时刻)上的损失和。

二、Tensorflow描述循环计算层

tf.keras.layers.SimpleRNN(神经元个数,activation=‘激活函数’,return_sequences=是否每个时刻输出ℎ𝑡到下一层)

(1)神经元个数:即循环核中记忆体的个数
(2) return_sequences:在输出序列中,返回最后时间步的输出值ℎ𝑡还是返回全部时间步的输出。False返回最后时刻,True返回全部时刻。当下一层依然是RNN层,通常为True,反之如果后面是Dense层,通常为Fasle。
(3)输入维度:三维张量(输入样本数, 循环核时间展开步数, 每个时间步输入特征个数)。

如上图所示,左图一共要送入RNN层两组数据,每组数据经过一个时间步就会得到输出结果,每个时间步送入三个数值,则输入循环层的数据维度就是 图1.2.6 RNN层输入维度[2, 1, 3]
右图输入只有一组数据,分四个时间步送入循环层,每个时间步送入两个数值,则输入循环层的数据维度就是 [1,4,2]。
(4)输出维度:

  • return_sequenc=True,三维张量(输入样本数, 循环核时间展开步数,本层的神经元个数)
  • return_sequenc=False,二维张量(输入样本数,本层的神经元个数)

(5) activation:‘激活函数’(不写默认使用tanh)

三、循环计算过程实例

RNN最典型的应用就是利用历史数据预测下一时刻将发生什么,即根据以前见过的历史规律做预测。举一个简单的字母预测例子体会一下循环网络的计算过程:输入一个字母预测下一个字母——输入a预测出b、输入b预测出c、输入c预测出d、输入d预测出e、输入e预测出a。计算机不认识字母,只能处理数字。所以需要我们对字母进行编码。这里假设使用独热编码(实际中可使用其他编码方式),编码结果下图所示。

独热编码字母
10000a
01000b
00100c
00010d
00001e

假设使用一层RNN网络,记忆体的个数选取3,则字母预测的网络如下图所示。

假设输入字母b,即输入

𝑥

𝑡

𝑥_𝑡

xt​为

[

0

,

1

,

0

,

0

,

0

]

[0,1,0,0,0]

[0,1,0,0,0],这时上一时刻的记忆体状态信息

h

𝑡

ℎ_𝑡

ht​为0。由上文理论知识不难得到:

h

𝑡

=

t

a

n

h

(

𝑥

𝑡

𝑤

𝑥

h

h

t

1

w

h

h

𝑏

)

=

t

a

n

h

(

[

2.3

,

0.8

,

1.1

]

0

[

0.5

,

0.3

,

0.2

]

)

=

t

a

n

h

[

1.8

,

1.1

,

0.9

]

=

[

0.9

,

0.8

,

0.7

]

h_𝑡=tanh(𝑥_𝑡𝑤_{𝑥ℎ}+ℎ_{t-1}w_{ℎℎ}+𝑏)\=tanh([−2.3,0.8,1.1 ]+ 0 + [ 0.5,0.3,−0.2])\= tanh[−1.8,1.1,0.9 ] = [−0.9 ,0.8,0.7]

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化的资料的朋友,可以添加V获取:vip1024b (备注软件测试)
img

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

h

𝑏

)

=

t

a

n

h

(

[

2.3

,

0.8

,

1.1

]

0

[

0.5

,

0.3

,

0.2

]

)

=

t

a

n

h

[

1.8

,

1.1

,

0.9

]

=

[

0.9

,

0.8

,

0.7

]

h_𝑡=tanh(𝑥_𝑡𝑤_{𝑥ℎ}+ℎ_{t-1}w_{ℎℎ}+𝑏)\=tanh([−2.3,0.8,1.1 ]+ 0 + [ 0.5,0.3,−0.2])\= tanh[−1.8,1.1,0.9 ] = [−0.9 ,0.8,0.7]

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化的资料的朋友,可以添加V获取:vip1024b (备注软件测试)
[外链图片转存中…(img-caRgc82a-1713547979548)]

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值