神经网络使用drop_out消除过拟合+MNIST

最新推荐文章于 2024-01-30 03:18:22 发布

原创

最新推荐文章于 2024-01-30 03:18:22 发布 · 4.8k 阅读

6 ·

CC 4.0 BY-SA版权

本文介绍了dropout技术的原理，该技术通过随机失活神经元来防止网络过度依赖特定节点，从而缓解过拟合现象。过拟合通常发生在复杂的网络结构和训练数据不足的情况下。核心代码示例：layer1=tf.nn.dropout(layer1,drop_out)" 112284806,10539173,雅马哈RCX340机器人与海康威视相机协同工作实例解析,"['工业机器人', '视觉识别', '自动化', 'PLC', '以太网']

1.drop_out的原理为:通过将某神经元的输出设置为0,达到使其失活的效果,消除网络中过分依赖某个神经元

2.过拟合一般出现在网络过分复杂,且训练数据较少的情况,数据较少而未知参数太多,则较易产生过拟合

3.核心代码:layer1=tf.nn.dropout(layer1,drop_out)

 
  #3-3 MNIst数据集使用drop-out提升准确率,消除部分过拟合 
 
  import tensorflow 
  as tf; 
 
  import numpy 
  as np; 
 
  from tensorflow.examples.tutorials.mnist 
  import input_data 
 
  #原始数据 
 
   mnist 
  =input_data.read_data_sets( 
  "MNIST_data", 
  one_hot 
  = 
  True) 
 
   x 
  =tf.placeholder(tf.float32, 
  shape