c3d代码

这篇博客介绍了在TensorFlow中如何使用`tf.nn.sparse_softmax_cross_entropy_with_logits`来计算损失,涉及Softmax函数的原理和Cross-Entropy损失函数的计算过程,以及稀疏标签的应用。
部署运行你感兴趣的模型镜像

##c3d代码
原文链接:https://blog.youkuaiyun.com/ZJRN1027/article/details/80199248
cross_entropy_mean = tf.reduce_mean(
tf.nn.sparse_softmax_cross_entropy_with_logits(labels=labels,logits=logit)
)
tf.summary.scalar(
name_scope + ‘_cross_entropy’,
cross_entropy_mean
)
tf.nn.sparse_softmax_cross_entropy_with_logits(labels=labels,logits=logit)
logits为神经网络输出层的输出,shape为[batch_size,num_classes],
label为一个一维的vector,长度等于batch_size,每一个值的取值区间必须是[0,num_classes),其实每一个值就是代表了batch中对应样本的类别

  tf.nn.sparse_softmax_cross_entropy_with_logits()首先来说,这个函数的具体实现分为了两个步骤,我们一步一步依次来看。

第一步:Softmax

不管是在进行文本分类还是图像识别等任务时,神经网络的输出层个神经元个数通常都是我们要分类的类别数量,也可以说,神经网络output vector的dimension通常为类别数量,而我们的Softmax函数的作用就是将每个类别所对应的输出分量归一化,使各个分量的和为1,这样可以理解为将output vector的输出分量值,转化为了将input data分类为每个类别的概率。举一个例子来说:
在这里插入图片描述

假设上面这个图中的Z1,Z2,Z3为一个三分类模型的output vector,为[3,1,-3],3代表类别1所对应的分量,1为类别2对应的分量,-3为类别3对应的分量。经过Softmax函数作用后,将其转化为了[0.88,0.12,0],这就代表了输入的这个样本被分到类别1的概率为0.88,分到类别2的概率为0.12,分到类别3的概率几乎为0。这就是Softmax函数的作用,Softmax函数的公式如下所示,我们就不做详细讲解了。
在这里插入图片描述

第二步:计算Cross-Entropy

神经网络的输出层经过Softmax函数作用后,接下来就要计算我们的loss了,这个这里是使用了Cross-Entropy作为了loss function。由于tf.nn.sparse_softmax_cross_entropy_with_logits()输入的label格式为一维的向量,所以首先需要将其转化为one-hot格式的编码,例如如果分量为3,代表该样本属于第三类,其对应的one-hot格式label为[0,0,0,1,…0],而如果你的label已经是one-hot格式,则可以使用tf.nn.softmax_cross_entropy_with_logits()函数来进行softmax和loss的计算。

转为one-hot格式之后就该计算我们的cross-entropy了,公式如下:
在这里插入图片描述

其中在这里插入图片描述为label中的第i个值,yi为经softmax归一化输出的vector中的对应分量,由此可以看出,当分类越准确时,yi所对应的分量就会越接近于1,在这里插入图片描述从而的值也就会越小。
sparse 不用one-hot, 直接用标签计算交叉熵

您可能感兴趣的与本文相关的镜像

TensorFlow-v2.15

TensorFlow-v2.15

TensorFlow

TensorFlow 是由Google Brain 团队开发的开源机器学习框架,广泛应用于深度学习研究和生产环境。 它提供了一个灵活的平台,用于构建和训练各种机器学习模型

### 关于C3D代码复现的方法 C3D(Convolutional 3D)是一种用于视频动作识别的经典网络架构。其核心思想是通过三维卷积核提取时空特征,从而更好地捕捉视频中的动态信息。以下是有关C3D代码复现的具体方法: #### 数据准备 为了训练C3D模型,通常需要一个大规模的动作识别数据集,例如UCF101或HMDB51。这些数据集包含了多种类别的动作视频片段。如果使用自定义的数据集,则需将其转换为适合C3D输入的形式。 - **视频预处理**:将原始视频裁剪成固定长度的小片段,并调整分辨率以匹配模型的输入尺寸[^1]。 ```python import cv2 import numpy as np def preprocess_video(video_path, target_size=(112, 112), clip_length=16): cap = cv2.VideoCapture(video_path) frames = [] while True: ret, frame = cap.read() if not ret: break resized_frame = cv2.resize(frame, target_size) frames.append(resized_frame) if len(frames) >= clip_length: break cap.release() return np.array(frames).astype('float32') / 255.0 ``` #### 模型构建 基于Keras框架实现C3D模型的核心部分如下所示。该模型由多个3D卷积层、池化层以及全连接层组成。 ```python from tensorflow.keras.models import Model from tensorflow.keras.layers import Input, Conv3D, MaxPooling3D, Flatten, Dense, Dropout input_shape = (16, 112, 112, 3) # 输入维度: 时间步数×高度×宽度×通道数 num_classes = 101 # UCF101数据集中有101个类别 inputs = Input(shape=input_shape) # 卷积层堆叠 x = Conv3D(64, kernel_size=(3, 3, 3), activation='relu', padding='same')(inputs) x = MaxPooling3D(pool_size=(1, 2, 2))(x) x = Conv3D(128, kernel_size=(3, 3, 3), activation='relu', padding='same')(x) x = MaxPooling3D(pool_size=(2, 2, 2))(x) x = Conv3D(256, kernel_size=(3, 3, 3), activation='relu', padding='same')(x) x = MaxPooling3D(pool_size=(2, 2, 2))(x) x = Conv3D(512, kernel_size=(3, 3, 3), activation='relu', padding='same')(x) x = MaxPooling3D(pool_size=(2, 2, 2))(x) x = Flatten()(x) x = Dense(4096, activation='relu')(x) x = Dropout(0.5)(x) x = Dense(4096, activation='relu')(x) x = Dropout(0.5)(x) outputs = Dense(num_classes, activation='softmax')(x) model = Model(inputs, outputs) model.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy']) ``` #### 训练与评估 完成上述准备工作后即可开始训练模型。需要注意的是,在实际应用中可能还需要对TensorFlow版本进行适配。例如,某些较新的功能可能会依赖更高版本的库支持[^2]。 ```python from tensorflow.keras.utils import to_categorical from sklearn.model_selection import train_test_split X_train, X_val, y_train, y_val = train_test_split(X_data, y_labels, test_size=0.2, random_state=42) y_train_onehot = to_categorical(y_train, num_classes=num_classes) y_val_onehot = to_categorical(y_val, num_classes=num_classes) history = model.fit( X_train, y_train_onehot, batch_size=8, epochs=20, validation_data=(X_val, y_val_onehot), verbose=1 ) ``` --- ###
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值