第T4周：猴痘病识别-优快云博客

from tensorflow import keras
from tensorflow.keras import layers, models
import os, PIL, pathlib
import matplotlib.pyplot as plt
import tensorflow as tf 

gpus = tf.config.list_physical_devices("GPU")

if gpus:
    gpu0 = gpus[0]
    tf.config.experimental.set_memory_growth(gpu0, True)
    tf.config.set_visible_devices([gpu0], "GPU")
gpus

2. 导入数据

data_dir = "./T4/"

data_dir = pathlib.Path(data_dir)

data_dir

3. 查看数据

知识点：

pathlib.Path的glob()方法
- 使用 glob 方法来搜索与特定模式匹配的文件。在这里，模式为 */*.jpg，它会匹配 data_dir 目录及其子目录中所有扩展名为 ".jpg" 的文件。
PIL.Image.open函数：
- image = Image.open(image_path)
- 可以将上面的image_path替换为要打开的文件路径

# 使用glob方法来匹配data_dir目录及其子目录中拓展名为jpg的文件
image_count = len(list(data_dir.glob('*/*.jpg')))

print("图片总数为：", image_count)

Monkeypox = list(data_dir.glob('Monkeypox/*.jpg'))
print(Monkeypox[0])
PIL.Image.open(Monkeypox[0])

二、数据预处理

使用image_dataset_from_directory方法将磁盘中的数据加载到tf.data.Dataset中

tf.keras.preprocessing.image_dataset_from_directory 是 TensorFlow 的 Keras 模块中的一个函数，用于从目录中创建一个图像数据集（dataset）。这个函数可以以更方便的方式加载图像数据，用于训练和评估神经网络模型。

测试集与验证集的关系：

验证集并没有参与训练过程梯度下降过程的，狭义上来讲是没有参与模型的参数训练更新的。
但是广义上来讲，验证集存在的意义确实参与了一个“人工调参”的过程，我们根据每一个epoch训练之后模型在valid data上的表现来决定是否需要训练进行early stop，或者根据这个过程模型的性能变化来调整模型的超参数，如学习率，batch_size等等。
因此，我们也可以认为，验证集也参与了训练，但是并没有使得模型去overfit验证集

batch_size = 32
img_height = 224
img_width = 244

train_ds = tf.keras.preprocessing.image_dataset_from_directory(
    data_dir,
    validation_split=0.2, # 设置为 0.2 表示将数据划分为训练集和验证集，其中 80% 用于训练，20% 用于验证。
    subset="training", # 设置为 "training" 表示正在创建训练数据集。
    seed=123,# seed 是用于随机操作的随机种子，这里设置为 123。
    image_size=(img_height, img_width),
    batch_size=batch_size # 定义了每个批次中的图像数量，这里设置为 32
)

val_ds = tf.keras.preprocessing.image_dataset_from_directory(
    data_dir,
    validation_split=0.2,
    subset="validation",
    seed=123,
    image_size=(img_height, img_width),
    batch_size=batch_size
)

我们可以通过class_names输出数据集的标签。标签将按字母顺序对应于目录名称。

class_names = train_ds.class_names

print(class_names)

2. 可视化数据

知识点：

在 TensorFlow 中，take() 方法用于从数据集中获取指定数量的批次（或样本）。该方法返回一个新的数据集，其中包含了原始数据集中指定数量的批次。
take(1)表示获取第一个批次的数据

plt.figure(figsize=(20, 10))

for images, labels in train_ds.take(1):
    for i in range(20):
        ax = plt.subplot(5, 10, i+1)

        # 这段代码的目的是将一个张量表示的图像转换为 NumPy 数组，并使用 Matplotlib 的 `imshow()` 函数显示出来。
        plt.imshow(images[i].numpy().astype("uint8"))
        plt.title(class_names[labels[i]])
        
        plt.axis("off")

3. 再次检查数据

for image_batch, labels_batch in train_ds:
    print(image_batch.shape)
    print(labels_batch.shape)
    break

Image_batch是形状的张量（32,224,224,3）。这是一批形状224x224x3的32张图片（最后一维指的是彩色通道RGB）。
Label_batch是形状（32，）的张量，这些标签对应32张图片

4. 配置数据集

AUTOTUNE = tf.data.experimental.AUTOTUNE

train_ds = train_ds.cache().shuffle(1000).prefetch(buffer_size=AUTOTUNE)
val_ds = val_ds.cache().prefetch(buffer_size=AUTOTUNE)

三、构建CNN网络

卷积神经网络（CNN）的输入是张量 (Tensor) 形式的 (image_height, image_width, color_channels)，包含了图像高度、宽度及颜色信息。不需要输入batch size。color_channels 为 (R,G,B) 分别对应 RGB 的三个颜色通道（color channel）。在此示例中，我们的 CNN 输入的形状是 (224, 224, 3)即彩色图像。我们需要在声明第一层时将形状赋值给参数input_shape。

知识点：

layers.experimental.preprocessing.Rescaling 是 TensorFlow 2.x 中的一个图像预处理层（preprocessing layer），用于将图像的像素值重新缩放到指定的范围内。通常，在训练深度学习模型时，对输入数据进行标准化和缩放是一个常见的步骤，以便更好地训练模型并提高收敛速度。
Rescaling 层通常用于模型的输入层，以确保输入数据的范围在合理的范围内。这对于训练深度学习模型非常重要，因为标准化和缩放可以改善梯度下降的性能，提高模型的稳定性和收敛速度。

num_classes = 2

"""
layers.Dropout(0.4) 作用是防止过拟合，提高模型的泛化能力
"""

model = models.Sequential([
    layers.experimental.preprocessing.Rescaling(1./255, input_shape=(img_height, img_width, 3)),
    
    layers.Conv2D(16, (3, 3), activation='relu', input_shape=(img_height, img_width, 3)),
    layers.AveragePooling2D((2, 2)),
    layers.Conv2D(32, (3, 3), activation='relu'),
    layers.AveragePooling2D((2, 2)),
    layers.Dropout(0.3),
    layers.Conv2D(64, (3, 3), activation='relu'),
    layers.Dropout(0.3),
    
    layers.Flatten(),
    layers.Dense(128, activation="relu"),
    layers.Dense(num_classes)
])

model.summary()

四、编译

在准备对模型进行训练之前，还需要再对其进行一些设置。以下内容是在模型的编译步骤中添加的：

● 损失函数（loss）：用于衡量模型在训练期间的准确率。

● 优化器（optimizer）：决定模型如何根据其看到的数据和自身的损失函数进行更新。

● 指标（metrics）：用于监控训练和测试步骤。以下示例使用了准确率，即被正确分类的图像的比率

# 设置优化器
opt = tf.keras.optimizers.Adam(learning_rate=1e-4)

model.compile(optimizer=opt,
             loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True),
             metrics=['accuracy'])

五、训练模型

知识点：

tensorflow.keras.callbacks.ModelCheckpoint 是 TensorFlow的一个回调函数（callback），用于在训练深度学习模型时定期保存模型的权重。这个回调函数允许在训练过程中选择性地保存模型的权重，以便在训练过程中的不同阶段或在训练结束后使用这些权重进行推断或继续训练。
当训练过程中的验证损失降低时，ModelCheckpoint 将自动保存模型的权重到指定的文件路径。

以下是 ModelCheckpoint 的基本参数示例：

from tensorflow.keras.callbacks import ModelCheckpoint

# 定义一个 ModelCheckpoint 回调函数
checkpoint = ModelCheckpoint(
    filepath='model_weights.h5',  # 保存模型权重的文件路径
    monitor='val_loss',           # 监控的指标，通常选择验证集上的损失
    save_best_only=True,          # 仅保存在监控指标上性能最佳的模型权重
    save_weights_only=True,       # 仅保存权重而不保存整个模型
    mode='min',                   # 监控模式，'min'表示损失越低越好
    verbose=1                      # 控制输出信息的详细程度，1为详细输出
)

训练代码：

from tensorflow.keras.callbacks import ModelCheckpoint

epochs = 50

# 回调函数，用于在训练深度学习模型时定期保存模型的权重。
checkpointer = ModelCheckpoint('bestmodel.h5',
                              monitor='val_accuracy',
                              verbose=1,
                              save_best_only=True,
                              save_weights_only=True)
# 在模型的训练阶段将该回调函数传递给 fit 方法的 callbacks 参数中。
history = model.fit(train_ds,
                   validation_data=val_ds,
                   epochs=epochs,
                   callbacks=[checkpointer])

六、模型评估

1. Loss与Accuracy图

知识点：

plt.legend 是 Matplotlib 库中的一个函数，用于在图形中添加图例（legend）。图例是一个标识，通常用来说明不同数据系列或曲线的含义，以帮助观众理解图形中的数据。
其中的loc 参数用于指定图例的位置。将 loc 参数设置为 'lower right'，图例被放在图形的右下角。

acc = history.history['accuracy']
val_acc = history.history['val_accuracy']

loss = history.history['loss']
val_loss = history.history['val_loss']

epochs_range = range(epochs)

plt.figure(figsize=(12, 4))
plt.subplot(1, 2, 1)
plt.plot(epochs_range, acc, label='Training Accurary')
plt.plot(epochs_range, val_acc, label='Validation Accuracy')
plt.legend(loc='lower right')
plt.title('Training and Validation Accuracy')

plt.subplot(1, 2, 2)
plt.plot(epochs_range, loss, label='Training Loss')
plt.plot(epochs_range, val_loss, label='Validation Loss')
plt.legend(loc='upper right')
plt.title('Training and Validation Loss')
plt.show()

2. 指定图片进行预测

# 加载效果最好的模型权重
model.load_weights('bestmodel.h5')

from PIL import Image
import numpy as np

# img = Image.open("./T4/Others/NM01_01_00.jpg")
img_path = "./T4/Others/NM01_01_00.jpg" # 这里选择你需要预测的图片
img = tf.io.read_file(img_path)
img = tf.image.decode_jpeg(img, channels=3)  # 将图像解码为3通道的Tensor
image = tf.image.resize(img, [img_height, img_with])

img_array = tf.expand_dims(image, 0)

predictions = model.predict(img_array) # 这里选用已经加载好的模型进行训练
print("预测结果为：", class_names[np.argmax(predictions)])