2016新年第一记

晚上杨世锡老师的《远程检测与故障诊断》结课。很欣赏杨老师的博学和在讲课过程中的情感交流以及教授给大家的生活处世哲学。

最后的讲话总结两点吧:

1、坚持一个方向10年,甘心沉下来做好;事物是变化的,会有转到你这的一天;

2、要有被人使用的价值,只有被人记着,被人用,你的价值才能体现;


2016,好好生活,扎扎实实练技术。一如杨老师所说,未来,于社会,你是一个优秀的人才;于家庭,你是一个好丈夫。

2016,依然静心努力!

### ResNet 网络结构图及其深度学习架构可视化 ResNet(Residual Network)是一种用于解决深度神经网络训练过程中梯度消失和模型退化问题的经典卷积神经网络架构。其核心思想在于引入 **shortcut connection** 或称为跳跃连接,使得网络能够通过残差学习来更有效地传递梯度并优化深层网络性能。 #### 1. ResNet-18 和 ResNet-34 的基本结构 ResNet-18 是一种较浅层的 ResNet 结构,由 18 层组成,而 ResNet-34 则扩展到 34 层。这两种网络都基于基础模块构建而成,其中每个模块通常包含两个或三个卷积层以及一个 shortcut 连接[^1]。 以下是 ResNet-18 的典型结构描述: - 输入经过初始卷积层和最大池化操作; - 随后进入四个阶段的残差块序列,分别对应不同数量的滤波器和步幅设置; - 输出部分采用全局平均池化与全连接层完成分类任务。 #### 2. TensorBoard 可视化的应用 为了更好地理解和调试 ResNet,在 TensorFlow/Keras 中可以借助 TensorBoard 工具实现网络结构的可视化。这不仅有助于观察整个计算图如何搭建,还能监控训练过程中的各项指标变化情况。例如,可以通过以下代码片段启动 TensorBoard 日志记录功能: ```python import tensorflow as tf from tensorflow.keras.callbacks import TensorBoard log_dir = "logs/resnet" tensorboard_callback = TensorBoard(log_dir=log_dir, histogram_freq=1) model.fit(x_train, y_train, epochs=10, validation_data=(x_val, y_val), callbacks=[tensorboard_callback]) ``` 运行上述脚本之后,打开命令行输入 `tensorboard --logdir=logs/resnet` 即可访问本地服务器上的交互界面查看详细的网络拓扑信息以及其他统计数据。 #### 3. Shortcut Connection 解决模型退化现象 传统观点认为增加网络层数会提升表现力,但实际上当达到一定深度时反而可能出现精度饱和甚至下降的现象——即所谓的“模型退化”。ResNet 提出了新颖的设计理念:不是直接拟合期望映射 H(X),而是尝试让堆叠层去逼近另一个目标 F(X)=H(X)-X 。这样做的好处是可以更容易地优化权重参数,并且允许更深的网络获得更好的泛化能力[^2]。 #### 4. CNN 经典架构对比分析 除了 ResNet 外还有许多其他著名的卷积神经网络模型如 AlexNet,VGG,SqueezeNet,DenseNet 等等。它们各自具有独特之处但也存在共同点比如多级特征提取机制等等。下面列举了一些主要区别点供参考比较: | Model Name | Layers Count | Key Features | |------------|--------------|-----------------------------------------------------------------------------| | VGG | ~16/19 | 使用小型过滤器(3×3)重复叠加形成复杂模式识别路径 | | InceptionV3| ~42 | 并行分支探索空间维度压缩可能性 | | DenseNet | variable | 所有前序层输出均作为当前层输入促进密集连接 | 值得注意的是这些先进方法都在一定程度上借鉴或者改进自原始版本从而不断提高效率准确性等方面特性[^3]。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值