Tensorflow中用VGG19做二分类-loss出现0.693174解决方法

最新推荐文章于 2025-11-30 20:42:41 发布
原创 最新推荐文章于 2025-11-30 20:42:41 发布 · 6.4k 阅读 · 11 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#Tensorflow #VGG #loss #深度学习 #0-693174

本文介绍如何在Tensorflow环境下使用VGG19预训练模型进行人脸表情识别的二分类任务，并解决了训练过程中loss值异常的问题。通过加入权重衰减（l2正则化），调整了全连接层的权重，最终实现了正确计算总体损失。

在Tensorflow下用VGG19 pre-train的model跑一个人脸表情库，做一个二分类。
出现loss除了迭代的第一个值，其余输出均是0.693174
百度解决方法，发现需要在全连接层的权重加权重衰减（l2正则化）
在把权重衰减loss和交叉熵loss添加到总loss里。
Tensorflow中具体实施如下：

    flattened_shape = 8 * 8 * 512
    reshp = tf.reshape(pool5, [-1, flattened_shape],       name='resh1')
    w_fc1 = utils.weight_variable([flattened_shape, 4096])
    # 加正则化
    regularizer = contrib.layers.l2_regularizer(REGULARIZATION_RATE)
    wloss_w1 = regulari
最低0.47元/天 解锁文章
Wkyao_Check
关注
为什么神经网络模型在测试集上的准确率高于训练集上的准确率？
种花家的奋斗兔的博客
03-21 1万+
类似下图： 或者下图： 来自：吴恩达机器学习Regularization部分。 如上图所示，有时候我们做训练的时候，会得到测试集的准确率或者验证集的准确率高于训练集的准确率，这是什么原因造成的呢？经过查阅资料，有以下几点原因，仅作参考，不对的地方，请大家指正。 （1）数据集太小的话，如果数据集切分的不均匀，或者说训练集和测试集的分布不均匀，如果模型能够正确捕捉到数据内部的分布模式话...
VGG19_LOSS 代码学习研究
qq_38376205的博客
12-02 2265
import torchvision.models as models PyTorch源码解读之torchvision.models vgg19 制作vgg loss 代码解读 class Vgg19(nn.Module): def __init__(self, args, requires_grad=False): super(Vgg19, self).__init__() self.args = args self.vgg_pretr...
PyTorch 二分类损失函数详解：BCELoss vs BCEWithLogitsLoss 最佳实践指南
最新发布
qq_62634342的博客
11-30 1168
本文介绍了PyTorch中二分类任务常用的两种损失函数BCELoss和BCEWithLogitsLoss。BCELoss要求输入经过Sigmoid处理的概率值(0-1之间)，而BCEWithLogitsLoss直接接收模型输出的logits值，内部自动完成Sigmoid转换，具有更好的数值稳定性。文章详细说明了两种损失函数的数学定义、输入要求、API参数和使用场景，并对比了它们的差异。特别强调真实标签必须是浮点类型(0.0或1.0)，推荐优先使用BCEWithLogitsLoss以避免数值不稳定问题。最后提
分类问题时loss只是收敛到0.693附近的直线
HuntZou的博客
03-26 7291
目录问题概述根本原因：交叉熵常见原因之一：Sigmoid出现问题原因及解决方法1 当输入与输出确实不相关时2 当模型初始权重相同且较大，且学习率较小时3 当模型的输入本身就很小，或者模型初始化权重很小时4 特征不明显，导致长时间训练不拟合5 使用sigmoid或tanh这类函数时，或输入特征较大使得收敛更困难 这种情况一般是在使用了交叉熵的二分类问题上容易出现，同样的，也可能出现loss收敛到1.0986、1.386等等，其实他们就是log(1/2)、log(1/3)、log(1/4)。。。 问题概述 根
Tensorflow中用VGG19做二分类loss出现0.693174解决方法2
check2255的博客
11-05 4404
接上次相同题目的blog，发现权重加了l2正则化后，开始的loss很大，逐渐收敛到0.693174后不变……在Tensorflow下用VGG19 pre-train的model跑一个人脸表情库，做一个二分类。 出现loss除了迭代的第一个值，其余输出均是0.693174 我用的梯度下降函数是Adam解决方法： 将梯度下降函数改为SGD+Momentum（0.9） 开始时loss在0.69
二分类问题,损失函数值一直为0.693,准确率一直为0.5附近的解决办法
weixin_43327191的博客
11-30 4523
对于二分类问题，损失函数一般用的是binary_crossentropy，要注意loss=0.693...是一个特殊值，因为二分类问题随便猜测的概率就为0.5,用交叉熵进行计算:loss=-ln(0.5) 解决的办法: 在每个卷积层与激活函数层之间都加了一个BatchNorm2d 将数据归一化后，网络可以迅速收敛 ...
imagenet-vgg-verydeep-19.zip
08-20
《深度学习中的图像风格迁移：基于Tensorflow 1.14的VGG-19模型实践》 在当今的计算机视觉领域，图像风格迁移是一种备受关注的技术，它能够将一张图像的内容保留，同时赋予其另一张图像的艺术风格。在这个主题中，...
imagenet-vgg-verydeep-19.mat
12-18
该资源为imagenet-vgg-verydeep-19.mat，可以在迁移学习的时候使用。必须要补充字数，我就再补两句。
TensorFlow VGG-16 预训练模型-vgg_16.ckpt
02-01
TensorFlow VGG-16 预训练模型，用于SSD-TensorFlow的Demo训练.
精选资源
vgg19-tensorflowjs-model::memo:Tensorflow.js VGG-19的预训练模型
05-02
VGG-19的训练模型。 如何使用它？ 克隆此存储库 git clone https://github.com/DavidCai1993/vgg19-tensorflowjs-model.git 在您的tensorflow.js应用程序中加载model.json 'use strict' const tf = require ( '@...
【图像分类】记录一个天坑：二分类网络使用CrossEntropyLoss，loss一直在0.69不收敛的问题
AI浩
05-28 1万+
最近在尝试用CrossEntropyLoss(),实现猫狗图像分类的功能。遇到了一个奇怪的问题：loss一直停留在0.69附近，我查了查loss函数的公式,公式如下：
VGG16做二分类时loss维持0.69不降解决办法
Manuel667399的博客
04-14 1122
在使用VGG16做二分类任务（如猫和狗分类）时，可能会遇到这种情况：损失值loss总是维持在0.69，或者准确率恒等于50%，无论如何调整学习率（尝试过0.001、0.0001和0.00001），loss始终不降。一种简单的解决办法在每个卷积层的后面添加一个BN（Batch Normalization）层。
VGG19损失函数——感知损失
2301_77554343的博客
09-06 1696
例如，VGG-19网络中的卷积层可以提取图像的纹理和结构信息，而网络的全连接层可以提取图像的语义信息。感知损失的计算方式通常是将输入图像和目标图像分别通过预训练的神经网络，得到它们在网络中的特征表示。与传统的均方误差损失函数（Mean Square Error，MSE）相比，感知损失更注重图像的感知质量，更符合人眼对图像质量的感受。其中，x 是输入图像，y 是目标图像，Fi​(x) 和 Fi​(y) 分别表示它们在预训练的神经网络中的第 i 层的特征表示，N 是特征层数。
加载和调用VGG19模型计算VGG_loss
CV_YOU的博客
12-14 5910
1.加载代码 # Assume input range is [0, 1] class VGGFeatureExtractor(nn.Module): def __init__(self, feature_layer=34, use_bn=False, use_input_norm=Tru...
tensorflow编写vggnet16二分类
qzzzxiaosheng的博客
02-25 770
#本程序将神经网络进一步加深，但是问题是变动神经网络太过于麻烦，还需要不断改进。 #https://blog.csdn.net/u013921430/article/details/80339337 #动态调整激活函数感觉比较苦难，每一层都是relu import os from cv2 import cv2 as cv import tensorflow as tf import matplo...
tensorflow2.0使用VGG16预训练模型实现猫狗数据集2分类
weixin_43723269的博客
03-04 2594
tensorflow2.0使用VGG16预训练模型实现猫狗数据集2分类 准备： tensorflow2.0.0或以上，最好是GPU版本 python3.7或以上环境，推荐使用Anaconda发行版，本站有相关教程 数据集，这里放出网盘链接：猫狗数据集，提取码：ijtz 直接上代码： tensorboard使用方法：训练完成之后，进入对应文件的目录（logs文件夹的主目录），在终端输入：tensorboard --logdir=logs ''' 2021-3-4, edit by wyf python3.
损失函数——感知损失（Perceptual Loss）
热门推荐
weixin_50752408的博客
03-15 2万+
例如，VGG-19网络中的卷积层可以提取图像的纹理和结构信息，而网络的全连接层可以提取图像的语义信息。感知损失的计算方式通常是将输入图像和目标图像分别通过预训练的神经网络，得到它们在网络中的特征表示。与传统的均方误差损失函数（Mean Square Error，MSE）相比，感知损失更注重图像的感知质量，更符合人眼对图像质量的感受。其中，x 是输入图像，y 是目标图像，Fi​(x) 和 Fi​(y) 分别表示它们在预训练的神经网络中的第 i 层的特征表示，N 是特征层数。然后我们创建了损失函数。
keras图像二分类Loss一直0.69
lx127372的博客
04-20 5570
最近做图像分类 遇到了loss下降的0.69就不下降了，一直停在那里，acc在0.5左右。 然后在网上查了很多资料，搞清楚了为什么会出现这种情况： https://www.jianshu.com/p/45c2180cab17 https://blog.csdn.net/weixin_40267472/article/details/82216668 https://zhuanlan.zhihu....
Pytorch学习笔记（I）——预训练模型（六）：VGG19网络结构
lockonlxf的博客
05-21 7643
VGG( (features): Sequential( (0): Conv2d(3, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1)) (1): ReLU(inplace) (2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值