【写在前面】:大家好,我是【猪葛】
一个很看好AI前景的算法工程师
在接下来的系列博客里面我会持续更新Keras的教学内容(文末有大纲)
内容主要分为两部分
第一部分是Keras的基础知识
第二部分是使用Keras搭建FasterCNN、YOLO目标检测神经网络
代码复用性高
如果你也感兴趣,欢迎关注我的动态一起学习
学习建议:
有些内容一开始学起来有点蒙,对照着“学习目标”去学习即可
一步一个脚印,走到山顶再往下看一切风景就全明了了
本篇博客学习目标:1、理解keras模型的各个属性和方法;2、重点关注和理解compile函数、fit函数、evaluate函数、predict函数
文章目录
一、关于Keras模型
1-1、模型常用属性和方法
在 Keras 中有两类主要的模型:Sequential 顺序模型 和 使用函数式 API 的 Model 类模型。
这些模型有许多共同的方法和属性:
-
model.layers
是包含模型网络层的展平列表。 -
model.inputs
是模型输入张量的列表。 -
model.outputs
是模型输出张量的列表。 -
model.summary()
打印出模型概述信息。 它是 utils.print_summary 的简捷调用。 -
model.get_config()
返回包含模型配置信息的字典。通过以下代码,就可以根据这些配置信息重新实例化模型: -
config = model.get_config()
model = Model.from_config(config)
# 或者,对于 Sequential:
model = Sequential.from_config(config)
model.get_weights()
返回模型中所有权重张量的列表,类型为 Numpy 数组。model.set_weights(weights)
从 Numpy 数组中为模型设置权重。列表中的数组必须与 get_weights() 返回的权重具有相同的尺寸。model.to_json()
以 JSON 字符串的形式返回模型的表示。请注意,该表示不包括权重,仅包含结构。你可以通过以下方式从 JSON 字符串重新实例化同一模型(使用重新初始化的权重):
from keras.models import model_from_json
json_string = model.to_json()
model = model_from_json(json_string)
model.to_yaml()
以 YAML 字符串的形式返回模型的表示。请注意,该表示不包括权重,只包含结构。你可以通过以下代码,从 YAML 字符串中重新实例化相同的模型(使用重新初始化的权重)
from keras.models import model_from_yaml
yaml_string = model.to_yaml()
model = model_from_yaml(yaml_string)
model.save_weights(filepath)
将模型权重存储为 HDF5 文件。model.load_weights(filepath, by_name=False)
: 从 HDF5 文件(由 save_weights 创建)中加载权重。默认情况下,模型的结构应该是不变的。 如果想将权重载入不同的模型(部分层相同), 设置 by_name=True 来载入那些名字相同的层的权重。model.get_layer(name=None, index=None)
:根据名称(唯一)或索引值查找网络层。如果同时提供了name
(字符串,层的名字)和index
( 整数,层的索引),则 index 将优先。返回一个层实例
使用一个实例然后把每个变量打印出来看看
from tensorflow.keras.models import Model
from tensorflow.keras.layers import Dense, Dropout, Flatten, Input
from tensorflow.keras.layers import Conv2D, MaxPooling2D
input_images = Input((224, 224, 3))
# 卷积采用更小的卷积大小(3, 3), 步长选择为1, 这样可以得到更多细致的信息,并且每一层卷积后面都跟着一层relu层,获得非线形性
# 池化层采用窗口大小为(2, 2), 步长为2, 相当于向下采样两倍
x = Conv2D(64, (3, 3), strides=1, activation='relu', padding='same')(input_images)
x = Conv2D(64, (3, 3), strides=1, activation='relu', padding='same')(x)
x = MaxPooling2D(pool_size=(2, 2), strides=2)(x)
x = Conv2D(128, (3, 3), strides=1, activation='relu', padding='same')(x)
x = Conv2D(128, (3, 3), strides=1, activation='relu', padding='same')(x)
x = MaxPooling2D(pool_size=(2, 2), strides=2)(x)
x = Conv2D(256, (3, 3), strides=1, activation='relu', padding='same')(x)
x = Conv2D(256, (3, 3), strides=1, activation='relu', padding='same')(x)
x = Conv2D(256, (1, 1), strides=1, activation='relu', padding='same')(x) # 新增一层(1, 1)卷积,获得更加细微图像信息
x = MaxPooling2D(pool_size=(2, 2), strides=2)(x)
x = Conv2D(512, (3, 3), strides=1, activation='relu', padding='same')(x)
x = Conv2D(512, (3, 3), strides=1, activation='relu', padding='same')(x)
x = Conv2D(512, (1, 1), strides=1, activation='relu', padding='same')(x) # 新增一层(1, 1)卷积,获得更加细微图像信息
x = MaxPooling2D(pool_size=(2, 2), strides=2)(x)
x = Conv2D(512, (3, 3), strides=1, activation='relu', padding='same')(x)
x = Conv2D(512, (3, 3), strides=1, activation='relu', padding='same')(x)
x = Conv2D(512, (1, 1), strides=1, activation='relu', padding='same')(x) # 新增一层(1, 1)卷积,获得更加细微图像信息
x = MaxPooling2D(pool_size=(2, 2), strides=2)(x)
x = Flatten()(x)
x = Dense(2048)(x)
x = Dense(2048)(x)
y = Dense(1000, activation='softmax')(x)
model = Model([input_images], [y])
layers_list = model.layers
inputs_list = model.inputs
outputs_list = model.outputs
model.summary()
config_dict = model.get_config()
get_weights_list = model.get_weights()
model.set_weights(get_weights_list)
pass
1-2、Model 类继承(自定义模型)
除了这两类模型之外,你还可以通过继承 Model
类并在 call
方法中实现你自己的前向传播,以创建你自己的完全定制化的模型,(Model
类继承 API 引入于 Keras 2.2.0)。
这里是一个用 Model
类继承写的简单的多层感知器的例子:
import tensorflow.keras
class SimpleMLP(keras.Model):
def __init__(self, use_bn=False, use_dp=False, num_classes=10):
super(SimpleMLP, self).__init__(name='mlp')
self.use_bn = use_bn
self.use_dp = use_dp
self.num_classes = num_classes
self.dense1 = keras.layers.Dense(32, activation='relu')
self.dense2 = keras.layers.Dense(num_classes, activation='softmax')
if self.use_dp:
self.dp = keras.layers.Dropout(0.5)
if self.use_bn:
self.bn = keras.layers.BatchNormalization(axis=-1)
def call(self, inputs):
x = self.dense1(inputs)
if self.use_dp:
x = self.dp(x)
if self.use_bn:
x = self.bn(x)
return self.dense2(x)
model = SimpleMLP()
model.compile(...)
model.fit(...)
网络层定义在 __init__(self, ...)
中,前向传播在 call(self, inputs)
中指定。在 call
中,你可以指定自定义的损失函数,通过调用 self.add_loss(loss_tensor)
(就像你在自定义层中一样)。
在类继承模型中,模型的拓扑结构是由 Python 代码定义的(而不是网络层的静态图)。这意味着该模型的拓扑结构不能被检查或序列化。因此,以下方法和属性不适用于类继承模型:
- model.inputs 和 model.outputs。
- model.to_yaml() 和 model.to_json()。
- model.get_config() 和 model.save()。
继承关键点:为每个任务使用正确的 API。Model 类继承 API 可以为实现复杂模型提供更大的灵活性,但它需要付出代价(比如缺失的特性):它更冗长,更复杂,并且有更多的用户错误机会。如果可能的话,尽可能使用函数式 API,这对用户更友好。
二、模型配置、模型训练、模型验证API详解
2-1、实例化Model类:model.Model()
在函数式 API 中,给定一些输入张量和输出张量,可以通过以下方式实例化一个 Model:
from keras.models import Model
from keras.layers import Input, Dense
a = Input(shape=(32,))
b = Dense(32)(a)
model = Model(inputs=a, outputs=b)
这个模型将包含从 a 到 b 的计算的所有网络层。
在多输入或多输出模型的情况下,你也可以使用列表:
model = Model(inputs=[a1, a2], outputs=[b1, b3, b3])
2-2、model.compile函数
compile(optimizer, loss=None, metrics=None, loss_weights=None, sample_weight_mode=None, weighted_metrics=None, target_tensors=None)
函数作用:用于配置训练模型。无返回值
常用参数
- optimizer: 字符串(优化器名)或者优化器对象(后续会更新讲解)。
- loss: 字符串(目标函数名)或目标函数(后续会更新讲解)。 如果模型具有多个输出,则可以通过传递损失函数的字典或列表,在每个输出上使用不同的损失。模型将最小化的损失值将是所有单个损失的总和。
- loss_weights: 指定标量系数(Python浮点数)的可选列表或字典,用于加权不同模型输出的损失贡献。 模型将要最小化的损失值将是所有单个损失的加权和,由 loss_weights 系数加权。 如果是列表,则期望与模型的输出具有
1:1
映射。 如果是张量,则期望将输出名称(字符串)映射到标量系数。
model.compile(optimizer='rmsprop',
loss={'main_output': 'binary_crossentropy', 'aux_output': 'binary_crossentropy'},
loss_weights={'main_output': 1., 'aux_output': 0.2})
# 'main_output'和'aux_output'表示层的名字
- metrics: 在训练和测试期间的模型评估标准。通常你会使用 metrics = [‘accuracy’]。 要为多输出模型的不同输出指定不同的评估标准,还可以传递一个字典,如 metrics = {‘output_a’:‘accuracy’}。
model.compile(optimizer='rmsprop',
loss={'main_output': 'binary_crossentropy', 'aux_output': 'binary_crossentropy'},
loss_weights={'main_output': 1., 'aux_output': 0.2},
metrics = {'output_a':'accuracy'}) # 'output_a'表示层的名字
# 'main_output'和'aux_output'表示层的名字
其它不常使用到的参数有:
- sample_weight_mode: 如果你需要执行按时间步采样权重(2D 权重),请将其设置为 temporal。 默认为 None,为采样权重(1D)。如果模型有多个输出,则可以通过传递 mode 的字典或列表,以在每个输出上使用不同的 sample_weight_mode。
- weighted_metrics: 在训练和测试期间,由 sample_weight 或 class_weight 评估和加权的度量标准列表。
- target_tensors: 默认情况下,Keras 将为模型的目标创建一个占位符,在训练过程中将使用目标数据。相反,如果你想使用自己的目标张量(反过来说,Keras 在训练期间不会载入这些目标张量的外部 Numpy 数据),您可以通过 target_tensors 参数指定它们。它应该是单个张量(对于单输出 Sequential 模型)。
- **kwargs: 当使用
Theano/CNTK
后端时,这些参数被传入K.function
。当使用TensorFlow
后端时,这些参数被传递到tf.Session.run
。
2-3、model.fit函数
fit(x=None, y=None, batch_size=None, epochs=1, verbose=1, callbacks=None, validation_split=0.0, validation_data=None, shuffle=True, class_weight=None, sample_weight=None, initial_epoch=0, steps_per_epoch=None, validation_steps=None)
函数作用:以固定数量的样本数据(数据集上的迭代)训练模型
常用参数
- x: 训练数据的 Numpy 数组。 如果模型中的输入层被命名,你也可以传递一个字典,将输入层名称映射到 Numpy 数组。 如果从本地框架张量馈送(例如 TensorFlow 数据张量)数据,x 可以是
None
(默认)。 - y: 目标(标签)数据的 Numpy 数组。 如果模型中的输出层被命名,你也可以传递一个字典,将输出层名称映射到 Numpy 数组。 如果从本地框架张量馈送(例如 TensorFlow 数据张量)数据,y 可以是
None
(默认)。
# 然后使用以下方式训练:
model.fit({'main_input': headline_data, 'aux_input': additional_data},
{'main_output': labels, 'aux_output': labels},
epochs=50, batch_size=32)
-
batch_size: 整数或
None
。每次提度更新的样本数。如果未指定,默认为 32. -
epochs: 整数。训练模型迭代轮次。一个轮次是在整个
x
或y
上的一轮迭代。请注意,与initial_epoch
一起,epochs
被理解为 「最终轮次」。模型并不是训练了epochs
轮,而是到第epochs
轮停止训练。 -
verbose: 0, 1 或 2。日志显示模式。 0 = 安静模式, 1 = 进度条, 2 = 每轮一行
-
callbacks: 一系列的
keras.callbacks.Callback
实例。一系列可以在训练时使用的回调函数(后续会详细讲解)。
my_callbacks = [
tf.keras.callbacks.EarlyStopping(patience=3, min_delta=0.01, monitor='loss'),
tf.keras.callbacks.ModelCheckpoint(filepath='model.{epoch:02d}-{val_loss:.2f}.h5'),
tf.keras.callbacks.TensorBoard(log_dir='./logs'),
]
model.fit(……, callbacks=my_callbacks)
- validation_split: 在 0 和 1 之间浮动。用作验证集的训练数据的比例。模型将分出一部分不会被训练的验证数据,并将在每一轮结束时评估这些验证数据的误差和任何其他模型指标。验证数据是混洗之前
x
和y
数据的最后一部分样本中。 - validation_data: 元组
(x_val,y_val)
或元组(x_val,y_val,val_sample_weights)
,用来评估损失,以及在每轮结束时的任何模型度量指标。模型将不会在这个数据上进行训练。这个参数会覆盖validation_split
。
其它不常使用到的参数有:
- shuffle: 布尔值(是否在每轮迭代之前混洗数据)或者 字符串
(batch)
。batch
是处理 HDF5 数据限制的特殊选项,它对一个batch
内部的数据进行混洗。当steps_per_epoch
非None
时,这个参数无效。 - class_weight: 可选的字典,用来映射类索引(整数)到权重(浮点)值,用于加权损失函数(仅在训练期间)。这可能有助于告诉模型 「更多关注」来自代表性不足的类的样本。
- sample_weight: 训练样本的可选 Numpy 权重数组,用于对损失函数进行加权(仅在训练期间)。您可以传递与输入样本长度相同的平坦(1D)Numpy 数组(权重和样本之间的
1:1
映射),或者在时序数据的情况下,可以传递尺寸为 (samples, sequence_length) 的 2D 数组,以对每个样本的每个时间步施加不同的权重。在这种情况下,你应该确保在 compile() 中指定sample_weight_mode
=“temporal”。 - initial_epoch: 开始训练的轮次(有助于恢复之前的训练)。
- steps_per_epoch: 在声明一个轮次完成并开始下一个轮次之前的总步数(样品批次)。使用
TensorFlow
数据张量等输入张量进行训练时,默认值 None 等于数据集中样本的数量除以 batch 的大小,如果无法确定,则为 1。 - validation_steps: 只有在指定了
steps_per_epoch
时才有用。停止前要验证的总步数(批次样本)。
返回值:
一个 History
对象。其 History.history
属性是连续 epoch
训练损失和评估值,以及验证集损失和评估值的记录(如果适用)。是一个字典。
2-4、model.evaluate函数
evaluate(x=None, y=None, batch_size=None, verbose=1, sample_weight=None, steps=None)
函数作用:在测试模式,返回误差值和评估标准值。计算逐批次进行。
常用参数(跟上面的fit函数一样的意义):
- x: 训练数据的 Numpy 数组。 如果模型中的输入层被命名,你也可以传递一个字典,将输入层名称映射到 Numpy 数组。 如果从本地框架张量馈送(例如 TensorFlow 数据张量)数据,
x
可以是None
(默认)。 - y: 目标(标签)数据的 Numpy 数组。 如果模型中的输出层被命名,你也可以传递一个字典,将输出层名称映射到 Numpy 数组。 如果从本地框架张量馈送(例如 TensorFlow 数据张量)数据,
y
可以是None
(默认)。 - batch_size: 整数或
None
。每次提度更新的样本数。如果未指定,默认为 32. - verbose: 0, 1。日志显示模式。0 = 安静模式, 1 = 进度条。
- sample_weight: 训练样本的可选 Numpy 权重数组,用于对损失函数进行加权(仅在训练期间)。 您可以传递与输入样本长度相同的平坦(1D)Numpy 数组(权重和样本之间的 1:1 映射),或者在时序数据的情况下,可以传递尺寸为 (samples, sequence_length) 的 2D 数组,以对每个样本的每个时间步施加不同的权重。在这种情况下,你应该确保在 compile() 中指定 sample_weight_mode=“temporal”。
- steps: 整数或
None
。 声明评估结束之前的总步数(批次样本)。默认值 None。
返回值:
标量测试误差(如果模型只有单个输出且没有评估指标)或标量列表(如果模型具有多个输出和/或指标)。 属性 model.metrics_names
将提供标量输出的显示标签。
b = model.evaluate(x=train_g)
name = model.metrics_names
print(b) # [0.1757448695600033, 0.6671875]
print(name) # ['loss', 'iris_metrics']
2-5、model.predict函数
predict(x, batch_size=None, verbose=0, steps=None)
函数作用:为输入样本生成输出预测。返回预测的Numpy数组
参数:
- x: 输入数据,Numpy 数组(或者如果模型有多个输入,则为 Numpy 数组列表)。
- batch_size: 整数。如未指定,默认为 32。
- verbose: 日志显示模式,0 或 1。
- steps: 声明预测结束之前的总步数(批次样本)。默认值 None。