聊一聊每天认识一个设计模式-组合模式:树形结构的统一接口艺术的编程语言

【WB32库开发】第9章 TIM1高级定时器——输出多路PWM PWM(Pulse Width Modulation)意为脉冲宽度调制,简称脉宽调制 。在工控行业,PWM信号可以用来调节电机转速、调节变频器以及BLDC电机驱动等;在LED照明行业,可以通过PWM来控制LED的亮暗变化;还可以通过PWM信号来控制无源蜂鸣器发出简单的声音等。 WB32也可输出PWM,需配置WB32上的定时器。 在WB32中有4个定时器,其中TIM1为高级定时器,TIMx(2-4)为通用定时器,这四个定时器均挂载在APB1总线上,每个定时器都可以输出4路PWM。 本章需要使用固件库TIM例程 阅读详情
霸炭账辆钢在当今的网络环境中,大多数设备都位于网络地址转换 (NAT) 设备之后,这导致了一个普遍存在的问题:如何让位于不同 NAT 设备后的两个设备直接建立通信? 这个问题在 P2P 应用中尤为突出,如在线游戏、视频会议、文件共享等场景都需要设备之间的直接通信。

传统的 C/S 架构应用中,客户端可以主动向服务器发起连接,但反过来却不行。这是因为 NAT 设备会阻止来自公网的未经请求的连接尝试。然而,在 P2P 应用中,我们需要两个客户端之间能够直接通信,这就需要突破 NAT 的限制,这就是 P2P 打洞技术所要解决的核心问题。

二.NAT 类型与工作原理

NAT 的基本概念与作用

网络地址转换 (NAT) 是一种将私有网络地址 (如 192.168.1.0/24) 转换为公网地址的技术。它的主要作用是节约公网 IP 地址资源,使得多个私有网络设备可以共享一个公网 IP 地址访问互联网。

在 NAT 设备中,维护着一个映射表,记录了私有 IP 地址和端口到公网 IP 地址和端口的映射关系。当内部设备向外部发送数据时,NAT 设备会将数据包的源 IP 和端口替换为自己的公网 IP 和一个可用端口,并在映射表中记录这一转换。当外部设备返回响应时,NAT 设备根据映射表将数据包转发给对应的内部设备。

NAT 设备通常位于家庭或企业网络的边界,作为内部网络与公网之间的网关。它的存在使得外部设备无法直接访问内部设备,这给 P2P 通信带来了挑战。

NAT 类型及其对通信的影响

根据 NAT 设备的行为特性,可以将其分为四种主要类型:完全圆锥型 (Full Cone)、限制圆锥型 (Restricted Cone)、端口限制圆锥型 (Port Restricted Cone) 和对称型 (Symmetric)。不同类型的 NAT 对 P2P 通信的影响各不相同。

完全圆锥型 NAT

完全圆锥型 NAT 是最开放的 NAT 类型。在这种 NAT 下,一旦内部设备的某个端口被映射到公网地址的某个端口,任何外部设备都可以向这个公网端口发送数据,NAT 设备会将数据转发给对应的内部设备,而不管这些数据来自哪个外部地址。

数学描述:设内部地址为 (iAddr, iPort),映射到公网地址 (eAddr, ePort)。对于任意外部地址 (aAddr, aPort),如果外部设备向 (eAddr, ePort)发送数据,NAT 设备会将其转发给 (iAddr, iPort)。

这种类型的 NAT 对 P2P 通信最为友好,因为一旦映射建立,两个设备之间可以直接通信。

限制圆锥型 NAT

限制圆锥型 NAT 比完全圆锥型 NAT 更严格。在这种 NAT 下,只有当内部设备已经向某个外部 IP 地址发送过数据后,该外部 IP 地址才能向内部设备的映射端口发送数据,但可以是任意端口。

数学描述:设内部地址为 (iAddr, iPort),映射到公网地址 (eAddr, ePort)。对于外部地址 (aAddr, aPort),只有当内部设备已经向 aAddr发送过数据时,NAT 设备才会将来自 (aAddr, aPort)的数据转发给 (iAddr, iPort)。

这种类型的 NAT 允许外部设备与内部设备通信,但仅限于内部设备已经通信过的 IP 地址,而不考虑端口。

端口限制圆锥型 NAT

端口限制圆锥型 NAT 是更严格的一种类型。在这种 NAT 下,只有当内部设备已经向某个外部 IP 地址的特定端口发送过数据后,该外部 IP 地址的该特定端口才能向内部设备的映射端口发送数据。

数学描述:设内部地址为 (iAddr, iPort),映射到公网地址 (eAddr, ePort)。对于外部地址 (aAddr, aPort),只有当内部设备已经向 (aAddr, aPort)发送过数据时,NAT 设备才会将来自 (aAddr, aPort)的数据转发给 (iAddr, iPort)。

这种类型的 NAT 对通信的限制更加严格,要求外部设备的 IP 和端口都必须是内部设备已经通信过的。

对称型 NAT

对称型 NAT 是最严格的一种类型。在这种 NAT 下,内部设备每次向不同的外部 IP 地址或端口发送数据时,NAT 设备都会创建一个新的映射。此外,只有来自该特定外部 IP 地址和端口的数据才能被转发回内部设备。

数学描述:设内部地址为 (iAddr, iPort)。当内部设备向 (aAddr1, aPort1)发送数据时,NAT 设备会创建一个映射 (eAddr1, ePort1)。当内部设备向 (aAddr2, aPort2)发送数据时,NAT 设备会创建另一个映射 (eAddr2, ePort2),即使 aAddr1 == aAddr2但 aPort1 != aPort2。对于外部地址 (aAddr, aPort),只有当内部设备已经向 (aAddr, aPort)发送过数据时,NAT 设备才会将来自 (aAddr, aPort)的数据转发给 (iAddr, iPort)。

这种类型的 NAT 使得 P2P 通信变得非常困难,因为两个设备之间很难建立直接的连接。

NAT 类型对 P2P 通信的影响总结

不同类型的 NAT 对 P2P 通信的支持程度各不相同:

NAT 类型 P2P 通信支持度 直接通信可能性

完全圆锥型 高 容易

限制圆锥型 中等 可能

端口限制圆锥型 低 困难

对称型 极低 几乎不可能

在实际应用中,大多数家用路由器使用完全圆锥型或限制圆锥型 NAT,而企业级路由器可能使用更严格的类型。了解 NAT 的类型对于实现可靠的 P2P 通信至关重要。

三.UDP 打洞原理与实现

UDP 打洞的基本原理

UDP 打洞是实现 P2P 通信的常用方法,其基本原理是利用 NAT 设备的特性,通过中间服务器的协助,在两个客户端的 NAT 设备上建立映射关系,使得它们能够直接通信。

UDP 打洞的核心思想是:即使两个客户端都位于 NAT 之后,只要它们能够同时向对方的公网地址发送数据,它们的 NAT 设备就会建立相应的映射,从而允许后续的数据直接通过。

具体来说,UDP 打洞的过程如下:

客户端 A 和客户端 B 分别向中间服务器 S 发送数据,服务器 S 记录下它们的公网地址 (A_public, A_port)和 (B_public, B_port)。

服务器 S 将 B 的公网地址告诉 A,将 A 的公网地址告诉 B。

客户端 A 向 B 的公网地址发送一个 UDP 数据包,客户端 B 向 A 的公网地址发送一个 UDP 数据包。

由于这两个数据包是主动发送的,它们的 NAT 设备会建立相应的映射,允许后续的数据通过。

一旦映射建立,客户端 A 和 B 就可以直接通信了。

需要注意的是,第二步中客户端 A 和 B 发送的初始数据包可能会被对方的 NAT 设备丢弃,但这并不影响,因为这两个数据包的主要目的是在各自的 NAT 设备上建立映射关系,而不是实际传输数据。

UDP 打洞的数学模型

为了更好地理解 UDP 打洞的原理,我们可以建立一个数学模型。

假设客户端 A 的内网地址为 A_private,映射到公网地址 A_public;客户端 B 的内网地址为 B_private,映射到公网地址 B_public。中间服务器 S 的地址为 S_addr。

在打洞过程中,我们需要解决以下问题:

如何让 A 和 B 获取对方的公网地址?

如何让 A 和 B 的 NAT 设备允许对方的数据通过?

数学上,我们可以将这个问题描述为:找到一种方式,使得对于客户端 A 和 B,有:

image

其中 NAT_X(Y)表示地址 Y 经过 NAT 设备 X 转换后的公网地址。

通过中间服务器 S 的协助,A 和 B 可以获取对方的公网地址。然后,通过同时向对方的公网地址发送数据,它们的 NAT 设备会建立相应的映射,使得:

image

从而允许后续的数据直接传输。

UDP 打洞的具体实现步骤

UDP 打洞的具体实现可以分为以下几个步骤:

客户端注册:客户端 A 和 B 分别向中间服务器 S 发送注册请求,服务器 S 记录它们的公网地址。

交换地址信息:服务器 S 将 A 的公网地址告诉 B,将 B 的公网地址告诉 A。

打洞请求:客户端 A 和 B 同时向对方的公网地址发送 UDP 数据包,触发各自 NAT 设备建立映射。

直接通信:一旦映射建立,客户端 A 和 B 就可以直接交换 UDP 数据包,无需再通过服务器 S。

需要注意的是,在步骤 3 中,客户端 A 和 B 必须同时向对方的公网地址发送数据,否则可能无法建立正确的映射。此外,第一次发送的数据可能会被对方的 NAT 设备丢弃,但后续的数据将能够正确传输。
其中:

Message Type:表示消息的类型,如请求、成功响应、错误响应等。

Message Length:表示消息的长度,不包括头部。

Magic Cookie:固定值 0x2112A442,用于识别 STUN 消息。

Transaction ID:用于关联请求和响应的唯一标识符。

STUN 消息的属性部分包含了各种信息,如 XOR-MAPPED-ADDRESS(客户端的公网地址)、USERNAME(用户名)、MESSAGE-INTEGRITY(消息完整性)等。

STUN 协议在 P2P 中的应用

STUN 协议在 P2P 通信中的主要应用是帮助客户端发现自己的公网地址,这是实现打洞的前提条件。通过 STUN 协议,客户端可以获取以下信息:

公网 IP 地址:客户端在 NAT 设备后的公网 IP 地址。

公网端口:客户端在 NAT 设备后的公网端口。

NAT 类型:客户端所在 NAT 设备的类型。

这些信息对于实现 P2P 通信非常重要,特别是在复杂的网络环境中。

TURN 协议

TURN 协议概述

TURN (Traversal Using Relays around NAT) 是一种在 STUN 无法穿透 NAT 时使用的中继协议。它的基本原理是:当两个客户端无法直接建立连接时,通过 TURN 服务器中转数据。

TURN 协议的核心思想是:如果两个客户端无法直接通信,它们可以通过 TURN 服务器中转数据,从而实现间接的 P2P 通信。

TURN 协议的工作流程如下:

客户端向 TURN 服务器发送 Allocate 请求,请求分配一个中继地址。

TURN 服务器分配一个中继地址,并返回给客户端。

客户端使用这个中继地址与其他客户端通信。

当两个客户端无法直接通信时,它们的数据通过 TURN 服务器中转。

TURN 协议的主要用途是在直接打洞失败时提供回退机制,确保 P2P 通信的可靠性。

TURN 服务器的工作原理

TURN 服务器的工作原理如下:

分配中继地址:TURN 服务器为客户端分配一个公网的中继地址和端口。

建立绑定:客户端与 TURN 服务器建立绑定关系,确保后续的数据可以通过中继地址传输。

数据中继:当两个客户端无法直接通信时,TURN 服务器作为中间人,将数据从一个客户端转发到另一个客户端。

连接维护:TURN 服务器维护连接状态,确保数据传输的连续性。

TURN 服务器的核心功能是在无法直接建立 P2P 连接时提供数据中继服务,确保通信的可靠性。

TURN 协议在 P2P 中的应用

TURN 协议在 P2P 通信中的主要应用是作为打洞失败后的回退机制。当直接打洞无法建立连接时,TURN 协议提供了以下功能:

中继服务:通过 TURN 服务器中转数据,确保通信的可能性。

地址分配:为客户端分配公网的中继地址,便于其他客户端连接。

连接维护:维护连接状态,确保数据传输的连续性。

TURN 协议的主要优势是提供了可靠的回退机制,确保 P2P 通信在各种网络环境下都能工作。

ICE 协议

ICE 协议概述

ICE (Interactive Connectivity Establishment) 是一种综合利用 STUN 和 TURN 协议,帮助对等设备建立连接的框架。它的基本原理是:通过收集多种候选地址,按优先级排序,然后尝试所有可能的连接路径,找到最佳的通信方式。

ICE 协议的核心思想是:收集所有可能的候选地址,包括直接地址、STUN 获取的公网地址和 TURN 获取的中继地址,然后尝试所有可能的连接路径,选择最优的路径进行通信。

ICE 协议的工作流程如下:

候选地址收集:收集所有可能的候选地址,包括本地地址、STUN 获取的公网地址和 TURN 获取的中继地址。

候选地址交换:通过信令服务器交换候选地址信息。

连接性检查:对所有可能的候选地址对进行连接性检查,确定哪些路径可用。

路径选择:根据连接性检查的结果,选择最优的路径进行通信。

ICE 协议的主要优势是能够在各种网络环境下建立可靠的 P2P 连接,特别是在复杂的网络环境中。

ICE 协议的工作原理

ICE 协议的工作原理可以分为以下几个步骤:

候选地址收集:

本地候选地址:设备的本地 IP 地址和端口。

服务器反射候选地址:通过 STUN 协议获取的公网地址和端口。

中继候选地址:通过 TURN 协议获取的中继地址和端口。

候选地址优先级排序:

本地候选地址通常具有最高优先级。

服务器反射候选地址次之。

中继候选地址优先级最低。

候选地址交换:

通过信令服务器交换候选地址信息。

每个设备都获得对方的所有候选地址。

连接性检查:

对所有可能的候选地址对进行连接性检查。

使用 STUN 协议的 Binding 请求和响应进行检查。

路径选择:

根据连接性检查的结果,选择最优的路径。

优先选择直接连接的路径,其次是中继路径。

ICE 协议的核心优势是能够自动适应各种网络环境,选择最佳的通信路径,确保连接的可靠性和性能。

ICE 协议在 P2P 中的应用

ICE 协议在 P2P 通信中的主要应用是提供一种可靠的连接建立机制,特别是在复杂的网络环境中。它的主要应用场景包括:

视频会议:在 WebRTC 中,ICE 协议用于建立对等设备之间的音视频连接。

文件共享:在 P2P 文件共享应用中,ICE 协议用于建立对等节点之间的直接连接。

在线游戏:在在线游戏中,ICE 协议用于建立玩家之间的低延迟连接。

实时通信:在各种需要实时通信的应用中,ICE 协议提供可靠的连接建立机制。

ICE 协议的主要优势是能够在各种网络环境下建立可靠的 P2P 连接,特别是在 NAT 设备后的网络环境中。它已经成为现代 P2P 应用中连接建立的标准方法。几司勘酝坡偻傧酶梁靶
5步上手Quartz.NetUI:.NET Core定时任务的开箱即用解决方案 Quartz.NetUI是一个基于.NET Core + Quartz.NET + Vue + IView的开箱即用的定时任务UI解决方案。它结合了Quartz.NET的强大功能和Vue.js的易用性,提供了一个不依赖数据库、只需在界面进行简单配置即可使用的定时任务管理系统。通过上述步骤,你已经学会了如何使用Quartz.NetUI在.NET Core项目中实现定时任务。Quartz.NetUI不仅功能强大,而且使用简单,非常适合那些需要快速实现定时任务管理的开发者。 阅读详情

相关推荐

蚂蚁区块链第20课 可信存证司法链从入门到实施

1. 摘要 杭州互联网法院和司法区块链平台的技术建设方都是蚂蚁金服区块链。那么,如何借助蚂蚁的技术能力和服务能力,快速对接上司法链,便于后续打通存证/维权的闭环流程。本文介绍蚂蚁区块链可信存证的业务及特点,费用及接入方法等,具有实战指导意义。 2. 蚂蚁区块链可信存证的介绍 蚂蚁区块链可信存证具备全链路可信,司法权威节点见证,安全隐私保护,一站式接入能力,全国首家法律认可的区块链存证平台。 2...

辉哥的技术投资路 6086

分析每天认识一个设计模式-组合模式:树形结构的统一接口艺术的编程语言

分析javascript异步进阶的编程语言

SAFADGADSGASA的博客 818

VS Code配置MinGW64编译非线性优化库NLopt

VS Code用MinGW64编译C++代码安装MSYS2软件并配置非线性优化库NLopt和测试引用库代码的完整具体步骤。:若使用非UCRT版本(如传统MinGW64),替换所有路径中的。库文件会自动安装到MSYS2的。

weixin_30777913的博客 902

分享一个每天认识一个设计模式-组合模式:树形结构的统一接口艺术的编程语言

分享一个javascript异步进阶的编程语言

ASFASFASAXA的博客 884

vSphere环境证书更新/续订案例及注意事项

早期VMware的用户随后“十年之期”已到,陆陆续续出现各种登录问题,证书报错告警等,主要包含6.5到7.0的版本,VMware服务器虚拟化环境涉及的证书及类型较多,在实际更新中会出现各种奇怪的问题,有些坑耗费了大量的troubleshooting时间,极端情况下一天能看到十多遍如下报错😂本文整理了一个近期的更新案例,以及之前处理过的一些问题,仅作参考CA根证书颁发机构,用于签发其他组件的证书,其他证书的有效期不会超过根证书。

RaySun的技术Blog 3203

细说VLAN之untag和tag

一、拓扑图 先给出上面拓扑图的结论,后面再详细讲解: 结论:只有PC1与PC4之间能相互通信,除此之外,所有PC之间均不能通信,比如PC1与PC3不能建立通信。 针对Ping命令的一个知识: 要想ping通某台主机,必须满足两个条件: 1,源主机的ICMP请求包必须能达到目的主机。 2,目的主机的ICMP应答包必须能回到源主机。 二、理论基础 端口的出...

NoobMaster的博客 3万+

探索每天认识一个设计模式-组合模式:树形结构的统一接口艺术的编程语言

探索javascript异步进阶的编程语言

ASFASFASAXA的博客 829

Keil 丢失编译器版本5、内核文件core_cm3.c报错

若用的是旧版本的core_cm3.c ,就使用编译器v5编译工程;若想用编译器v6,就更新4个相关的内核文件:(CMSIS:Cortex Microcontroller Software Interface Standard,ARM Cortex™ 微控制器软件接口标准)

qq_52804040的博客 6244

解析每天认识一个设计模式-组合模式:树形结构的统一接口艺术的编程语言

解析javascript异步进阶的编程语言

ASADGSDASXA的博客 647

Coze智能体开发:扣子空间制作PPT功能

扣子空间内置了丰富的场景模板,涵盖人文历史、学术分享、研究报告、数据分析等场景,可以满足不同用户的需求。 你只需输入与制作 PPT 相关的提示词,Agent 就能基于这些提示词展示思考的过程,并自动生成完整的 PPT。

王国平的博客 2052

点云处理实操(四) -PCL中的点云三角化

点云处理实操(四) -PCL中的点云三角化

cangqiongxiaoye的博客 939

说一说每天认识一个设计模式-组合模式:树形结构的统一接口艺术的编程语言

说一说javascript异步进阶的编程语言

ASFASFASAXA的博客 504

Openlayers 教程 02 - 地图添加 WKT WKB GeoJson 格式的点线面数据

WebGIS 开发中,对于数据量不是很大的场景,可以直接从数据库读取数据,通过创建点线面要素(Feature),然后添加到矢量图层(vectorLayer)中,在地图上展示。添加点线面的方法可以封装一下,方便使用。...

非科班Java出身GISer的博客 3855

带你了解每天认识一个设计模式-组合模式:树形结构的统一接口艺术的编程语言

带你了解javascript异步进阶的编程语言

ASFASFASAXA的博客 674

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

盘点每天认识一个设计模式-组合模式:树形结构的统一接口艺术的编程语言

盘点javascript异步进阶的编程语言

SAFADGADSGASA的博客 346

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

上一篇: 带你了解每天认识一个设计模式-组合模式:树形结构的统一接口艺术可操作性
下一篇: 盘点每天认识一个设计模式-组合模式:树形结构的统一接口艺术的编程语言
普通网友
博客等级 码龄1年 37粉丝 59原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值