聊一聊每天认识一个设计模式-组合模式:树形结构的统一接口艺术的原则

数据挖掘实战:决策树 + 聚类 + 关联规则,零 Key 离线可跑(Python 源码) 数据挖掘实战包。用 Python 标准库实现 CART 风格决策树、K-Means 聚类与 Apriori 关联规则,在虚构「星河便利店」会员表和购物篮上跑通分类、分群与购物篮分析,并给出准确率、轮廓系数、支持度/置信度/提升度。零第三方依赖、零 API Key 即可离线跑通。含 4 个样例、离线冒烟、中文 README(含「使用方法」)。均为作者原创可运行源码。MIT。作者 blog.youkuaiyun.com/mtl1994 立即下载
谄狄蹲鹤禄在当今的网络环境中,大多数设备都位于网络地址转换 (NAT) 设备之后,这导致了一个普遍存在的问题:如何让位于不同 NAT 设备后的两个设备直接建立通信? 这个问题在 P2P 应用中尤为突出,如在线游戏、视频会议、文件共享等场景都需要设备之间的直接通信。

传统的 C/S 架构应用中,客户端可以主动向服务器发起连接,但反过来却不行。这是因为 NAT 设备会阻止来自公网的未经请求的连接尝试。然而,在 P2P 应用中,我们需要两个客户端之间能够直接通信,这就需要突破 NAT 的限制,这就是 P2P 打洞技术所要解决的核心问题。

二.NAT 类型与工作原理

NAT 的基本概念与作用

网络地址转换 (NAT) 是一种将私有网络地址 (如 192.168.1.0/24) 转换为公网地址的技术。它的主要作用是节约公网 IP 地址资源,使得多个私有网络设备可以共享一个公网 IP 地址访问互联网。

在 NAT 设备中,维护着一个映射表,记录了私有 IP 地址和端口到公网 IP 地址和端口的映射关系。当内部设备向外部发送数据时,NAT 设备会将数据包的源 IP 和端口替换为自己的公网 IP 和一个可用端口,并在映射表中记录这一转换。当外部设备返回响应时,NAT 设备根据映射表将数据包转发给对应的内部设备。

NAT 设备通常位于家庭或企业网络的边界,作为内部网络与公网之间的网关。它的存在使得外部设备无法直接访问内部设备,这给 P2P 通信带来了挑战。

NAT 类型及其对通信的影响

根据 NAT 设备的行为特性,可以将其分为四种主要类型:完全圆锥型 (Full Cone)、限制圆锥型 (Restricted Cone)、端口限制圆锥型 (Port Restricted Cone) 和对称型 (Symmetric)。不同类型的 NAT 对 P2P 通信的影响各不相同。

完全圆锥型 NAT

完全圆锥型 NAT 是最开放的 NAT 类型。在这种 NAT 下,一旦内部设备的某个端口被映射到公网地址的某个端口,任何外部设备都可以向这个公网端口发送数据,NAT 设备会将数据转发给对应的内部设备,而不管这些数据来自哪个外部地址。

数学描述:设内部地址为 (iAddr, iPort),映射到公网地址 (eAddr, ePort)。对于任意外部地址 (aAddr, aPort),如果外部设备向 (eAddr, ePort)发送数据,NAT 设备会将其转发给 (iAddr, iPort)。

这种类型的 NAT 对 P2P 通信最为友好,因为一旦映射建立,两个设备之间可以直接通信。

限制圆锥型 NAT

限制圆锥型 NAT 比完全圆锥型 NAT 更严格。在这种 NAT 下,只有当内部设备已经向某个外部 IP 地址发送过数据后,该外部 IP 地址才能向内部设备的映射端口发送数据,但可以是任意端口。

数学描述:设内部地址为 (iAddr, iPort),映射到公网地址 (eAddr, ePort)。对于外部地址 (aAddr, aPort),只有当内部设备已经向 aAddr发送过数据时,NAT 设备才会将来自 (aAddr, aPort)的数据转发给 (iAddr, iPort)。

这种类型的 NAT 允许外部设备与内部设备通信,但仅限于内部设备已经通信过的 IP 地址,而不考虑端口。

端口限制圆锥型 NAT

端口限制圆锥型 NAT 是更严格的一种类型。在这种 NAT 下,只有当内部设备已经向某个外部 IP 地址的特定端口发送过数据后,该外部 IP 地址的该特定端口才能向内部设备的映射端口发送数据。

数学描述:设内部地址为 (iAddr, iPort),映射到公网地址 (eAddr, ePort)。对于外部地址 (aAddr, aPort),只有当内部设备已经向 (aAddr, aPort)发送过数据时,NAT 设备才会将来自 (aAddr, aPort)的数据转发给 (iAddr, iPort)。

这种类型的 NAT 对通信的限制更加严格,要求外部设备的 IP 和端口都必须是内部设备已经通信过的。

对称型 NAT

对称型 NAT 是最严格的一种类型。在这种 NAT 下,内部设备每次向不同的外部 IP 地址或端口发送数据时,NAT 设备都会创建一个新的映射。此外,只有来自该特定外部 IP 地址和端口的数据才能被转发回内部设备。

数学描述:设内部地址为 (iAddr, iPort)。当内部设备向 (aAddr1, aPort1)发送数据时,NAT 设备会创建一个映射 (eAddr1, ePort1)。当内部设备向 (aAddr2, aPort2)发送数据时,NAT 设备会创建另一个映射 (eAddr2, ePort2),即使 aAddr1 == aAddr2但 aPort1 != aPort2。对于外部地址 (aAddr, aPort),只有当内部设备已经向 (aAddr, aPort)发送过数据时,NAT 设备才会将来自 (aAddr, aPort)的数据转发给 (iAddr, iPort)。

这种类型的 NAT 使得 P2P 通信变得非常困难,因为两个设备之间很难建立直接的连接。

NAT 类型对 P2P 通信的影响总结

不同类型的 NAT 对 P2P 通信的支持程度各不相同:

NAT 类型 P2P 通信支持度 直接通信可能性

完全圆锥型 高 容易

限制圆锥型 中等 可能

端口限制圆锥型 低 困难

对称型 极低 几乎不可能

在实际应用中,大多数家用路由器使用完全圆锥型或限制圆锥型 NAT,而企业级路由器可能使用更严格的类型。了解 NAT 的类型对于实现可靠的 P2P 通信至关重要。

三.UDP 打洞原理与实现

UDP 打洞的基本原理

UDP 打洞是实现 P2P 通信的常用方法,其基本原理是利用 NAT 设备的特性,通过中间服务器的协助,在两个客户端的 NAT 设备上建立映射关系,使得它们能够直接通信。

UDP 打洞的核心思想是:即使两个客户端都位于 NAT 之后,只要它们能够同时向对方的公网地址发送数据,它们的 NAT 设备就会建立相应的映射,从而允许后续的数据直接通过。

具体来说,UDP 打洞的过程如下:

客户端 A 和客户端 B 分别向中间服务器 S 发送数据,服务器 S 记录下它们的公网地址 (A_public, A_port)和 (B_public, B_port)。

服务器 S 将 B 的公网地址告诉 A,将 A 的公网地址告诉 B。

客户端 A 向 B 的公网地址发送一个 UDP 数据包,客户端 B 向 A 的公网地址发送一个 UDP 数据包。

由于这两个数据包是主动发送的,它们的 NAT 设备会建立相应的映射,允许后续的数据通过。

一旦映射建立,客户端 A 和 B 就可以直接通信了。

需要注意的是,第二步中客户端 A 和 B 发送的初始数据包可能会被对方的 NAT 设备丢弃,但这并不影响,因为这两个数据包的主要目的是在各自的 NAT 设备上建立映射关系,而不是实际传输数据。

UDP 打洞的数学模型

为了更好地理解 UDP 打洞的原理,我们可以建立一个数学模型。

假设客户端 A 的内网地址为 A_private,映射到公网地址 A_public;客户端 B 的内网地址为 B_private,映射到公网地址 B_public。中间服务器 S 的地址为 S_addr。

在打洞过程中,我们需要解决以下问题:

如何让 A 和 B 获取对方的公网地址?

如何让 A 和 B 的 NAT 设备允许对方的数据通过?

数学上,我们可以将这个问题描述为:找到一种方式,使得对于客户端 A 和 B,有:

image

其中 NAT_X(Y)表示地址 Y 经过 NAT 设备 X 转换后的公网地址。

通过中间服务器 S 的协助,A 和 B 可以获取对方的公网地址。然后,通过同时向对方的公网地址发送数据,它们的 NAT 设备会建立相应的映射,使得:

image

从而允许后续的数据直接传输。

UDP 打洞的具体实现步骤

UDP 打洞的具体实现可以分为以下几个步骤:

客户端注册:客户端 A 和 B 分别向中间服务器 S 发送注册请求,服务器 S 记录它们的公网地址。

交换地址信息:服务器 S 将 A 的公网地址告诉 B,将 B 的公网地址告诉 A。

打洞请求:客户端 A 和 B 同时向对方的公网地址发送 UDP 数据包,触发各自 NAT 设备建立映射。

直接通信:一旦映射建立,客户端 A 和 B 就可以直接交换 UDP 数据包,无需再通过服务器 S。

需要注意的是,在步骤 3 中,客户端 A 和 B 必须同时向对方的公网地址发送数据,否则可能无法建立正确的映射。此外,第一次发送的数据可能会被对方的 NAT 设备丢弃,但后续的数据将能够正确传输。
其中:

Message Type:表示消息的类型,如请求、成功响应、错误响应等。

Message Length:表示消息的长度,不包括头部。

Magic Cookie:固定值 0x2112A442,用于识别 STUN 消息。

Transaction ID:用于关联请求和响应的唯一标识符。

STUN 消息的属性部分包含了各种信息,如 XOR-MAPPED-ADDRESS(客户端的公网地址)、USERNAME(用户名)、MESSAGE-INTEGRITY(消息完整性)等。

STUN 协议在 P2P 中的应用

STUN 协议在 P2P 通信中的主要应用是帮助客户端发现自己的公网地址,这是实现打洞的前提条件。通过 STUN 协议,客户端可以获取以下信息:

公网 IP 地址:客户端在 NAT 设备后的公网 IP 地址。

公网端口:客户端在 NAT 设备后的公网端口。

NAT 类型:客户端所在 NAT 设备的类型。

这些信息对于实现 P2P 通信非常重要,特别是在复杂的网络环境中。

TURN 协议

TURN 协议概述

TURN (Traversal Using Relays around NAT) 是一种在 STUN 无法穿透 NAT 时使用的中继协议。它的基本原理是:当两个客户端无法直接建立连接时,通过 TURN 服务器中转数据。

TURN 协议的核心思想是:如果两个客户端无法直接通信,它们可以通过 TURN 服务器中转数据,从而实现间接的 P2P 通信。

TURN 协议的工作流程如下:

客户端向 TURN 服务器发送 Allocate 请求,请求分配一个中继地址。

TURN 服务器分配一个中继地址,并返回给客户端。

客户端使用这个中继地址与其他客户端通信。

当两个客户端无法直接通信时,它们的数据通过 TURN 服务器中转。

TURN 协议的主要用途是在直接打洞失败时提供回退机制,确保 P2P 通信的可靠性。

TURN 服务器的工作原理

TURN 服务器的工作原理如下:

分配中继地址:TURN 服务器为客户端分配一个公网的中继地址和端口。

建立绑定:客户端与 TURN 服务器建立绑定关系,确保后续的数据可以通过中继地址传输。

数据中继:当两个客户端无法直接通信时,TURN 服务器作为中间人,将数据从一个客户端转发到另一个客户端。

连接维护:TURN 服务器维护连接状态,确保数据传输的连续性。

TURN 服务器的核心功能是在无法直接建立 P2P 连接时提供数据中继服务,确保通信的可靠性。

TURN 协议在 P2P 中的应用

TURN 协议在 P2P 通信中的主要应用是作为打洞失败后的回退机制。当直接打洞无法建立连接时,TURN 协议提供了以下功能:

中继服务:通过 TURN 服务器中转数据,确保通信的可能性。

地址分配:为客户端分配公网的中继地址,便于其他客户端连接。

连接维护:维护连接状态,确保数据传输的连续性。

TURN 协议的主要优势是提供了可靠的回退机制,确保 P2P 通信在各种网络环境下都能工作。

ICE 协议

ICE 协议概述

ICE (Interactive Connectivity Establishment) 是一种综合利用 STUN 和 TURN 协议,帮助对等设备建立连接的框架。它的基本原理是:通过收集多种候选地址,按优先级排序,然后尝试所有可能的连接路径,找到最佳的通信方式。

ICE 协议的核心思想是:收集所有可能的候选地址,包括直接地址、STUN 获取的公网地址和 TURN 获取的中继地址,然后尝试所有可能的连接路径,选择最优的路径进行通信。

ICE 协议的工作流程如下:

候选地址收集:收集所有可能的候选地址,包括本地地址、STUN 获取的公网地址和 TURN 获取的中继地址。

候选地址交换:通过信令服务器交换候选地址信息。

连接性检查:对所有可能的候选地址对进行连接性检查,确定哪些路径可用。

路径选择:根据连接性检查的结果,选择最优的路径进行通信。

ICE 协议的主要优势是能够在各种网络环境下建立可靠的 P2P 连接,特别是在复杂的网络环境中。

ICE 协议的工作原理

ICE 协议的工作原理可以分为以下几个步骤:

候选地址收集:

本地候选地址:设备的本地 IP 地址和端口。

服务器反射候选地址:通过 STUN 协议获取的公网地址和端口。

中继候选地址:通过 TURN 协议获取的中继地址和端口。

候选地址优先级排序:

本地候选地址通常具有最高优先级。

服务器反射候选地址次之。

中继候选地址优先级最低。

候选地址交换:

通过信令服务器交换候选地址信息。

每个设备都获得对方的所有候选地址。

连接性检查:

对所有可能的候选地址对进行连接性检查。

使用 STUN 协议的 Binding 请求和响应进行检查。

路径选择:

根据连接性检查的结果,选择最优的路径。

优先选择直接连接的路径,其次是中继路径。

ICE 协议的核心优势是能够自动适应各种网络环境,选择最佳的通信路径,确保连接的可靠性和性能。

ICE 协议在 P2P 中的应用

ICE 协议在 P2P 通信中的主要应用是提供一种可靠的连接建立机制,特别是在复杂的网络环境中。它的主要应用场景包括:

视频会议:在 WebRTC 中,ICE 协议用于建立对等设备之间的音视频连接。

文件共享:在 P2P 文件共享应用中,ICE 协议用于建立对等节点之间的直接连接。

在线游戏:在在线游戏中,ICE 协议用于建立玩家之间的低延迟连接。

实时通信:在各种需要实时通信的应用中,ICE 协议提供可靠的连接建立机制。

ICE 协议的主要优势是能够在各种网络环境下建立可靠的 P2P 连接,特别是在 NAT 设备后的网络环境中。它已经成为现代 P2P 应用中连接建立的标准方法。嵌回刚匝煽疟玫匠抢碌
产业园区如何高效对接企业技术需求与高校科研成果?.docx 科易网基于AI模型+行业大数据,在技术转移、成果转化、技术经纪、知识产权、产业创新、科技招商等垂直领域的多样化应用场景,推出科技创新领域的AI+工具与数智化解决方案,推动科技创新与产业创新智能化发展。 立即下载

相关推荐

国央企创新负责人如何快速掌握本地科技资源分布与匹配情况?.docx

科易网基于AI模型+行业大数据,在技术转移、成果转化、技术经纪、知识产权、产业创新、科技招商等垂直领域的多样化应用场景,推出科技创新领域的AI+工具与数智化解决方案,推动科技创新与产业创新智能化发展。

每天认识一个设计模式-组合模式:树形结构的统一接口艺术

搞软件开发就像走一段很长的路,设计模式就像天上闪亮的星星,总能给我们指引方向。讲完桥接模式和过滤器模式之后,这个系列接着带大家探索结构型设计模式这个神奇的领域。今天,咱们就专门来聊聊组合模式,看看它到底是怎么回事。​

Young_深情不及里子的博客 4184

国央企创新负责人如何实现科技成果的精准识别与高效筛选?.docx

科易网基于AI模型+行业大数据,在技术转移、成果转化、技术经纪、知识产权、产业创新、科技招商等垂直领域的多样化应用场景,推出科技创新领域的AI+工具与数智化解决方案,推动科技创新与产业创新智能化发展。

说一说每天认识一个设计模式-组合模式:树形结构的统一接口艺术的原则

说一说javascript异步进阶的原则

ACASCASCAS的博客 960

OpenBmc开发11:添加传感器(I2C)

1 查看传感器信息 通过qemu以本地端口映射方式运行编译后的镜像,访问bmcweb页面的网址是:https://localhost:2443/,如果想用IP地址启动请参考:openbmc开发4:启动运行编译镜像。(这里以网桥方式启动,以ip地址方式访问BMC) 输入用户名和密码,密码是:0penBmc(第一个是数字)。 选择Health,然后点击Sensor,可以看到传感器信息。 2 查看传感器配置文件 进入meta-live/meta-test/recipes-phosphor/...

master 1万+

VBA常见错误 - “错误3706,未找到提供程序,该程序可能未正确安装”解决方法

1、问题描述 在利用VBA编程时,引用其它表格数据,出现以下问题: (1)运行“错误3706,未找到提供程序,该程序可能未正确安装”。 (2)引用数据失败 2、解决方法 下载“Access 2010 数据库引擎”,并安装即可。 https://www.microsoft.com/en-us/download/details.aspx?id=54920 AccessDatabaseEngine 2010 官方安装包,官网下载不了的可以来这里下载。(1)运行“错误3706,未找到提..

Nemuel的博客 3万+

了解一下每天认识一个设计模式-组合模式:树形结构的统一接口艺术的原则

了解一下javascript异步进阶的原则

SAFADGADSGASA的博客 842

STM32N6570-DK ISP调试

将下载线接入STLINK V3EC接口,将BOOT1拨码拨至右边,即将其置为H,上电或已经上电的按复位,打开STM32CubeProgrammer,设置start address:0x70000000。板子消耗电流较大,即使缩短数据线接了USB供电依然不能正常点亮显示屏,最终通过板上CN2端子加了外部5V供电,仍然需要560mA的外部电流。3.烧录bin文件:STM32N6_ISP_IQTune_App_revC01-v1.1.0-trusted.bin。

liu的博客 1065

解析每天认识一个设计模式-组合模式:树形结构的统一接口艺术的原则

解析javascript异步进阶的原则

ASADGSDASXA的博客 639

26 硬件工程师笔面试高频考点真题解析——CAN总线

CAN总线是一种差分多主串行半双工总线,采用非破坏性位仲裁机制和五层硬件错误检测(位错误、填充错误、CRC校验、格式错误、应答错误),具有高可靠性和故障容错能力。关键设计包括两端120Ω终端电阻匹配阻抗、手拉手总线拓扑、显性/隐性电平优先级仲裁。常见故障分析指出多节点异常多因终端电阻错配/漏装、星型布线违规或总线过载;高速通讯失败常由阻抗失配或线缆过长导致信号反射。相比RS485,CAN支持多主架构、硬件自动仲裁和节点故障隔离,更适用于汽车、工业等高可靠场景。

XU157303764的博客 547

如何用Lmcache+vllm优化KVcache存储?CPU与SSD性能实测对比

本文通过实测对比,详细介绍了如何利用Lmcache+vLLM将大模型推理中的KV Cache卸载至CPU内存或SSD硬盘,以解决长上下文场景下的GPU显存瓶颈。测试数据显示,CPU卸载方案在首字延迟(TTFT)上显著优于SSD方案,但SSD方案在存储成本上更具优势。文章提供了完整的配置指南、性能数据分析和生产环境选型建议。

fire9的博客 986

分享一个每天认识一个设计模式-组合模式:树形结构的统一接口艺术的原则

分享一个javascript异步进阶的原则

ASFASFASAXA的博客 588

使用Google Earth Engine(GEE)的Python API,您可以将经纬度坐标转换为Landsat影像的路径/行号

使用Google Earth Engine(GEE)的Python API,您可以将经纬度坐标转换为Landsat影像的路径/行号。在这个示例中,我们选择了一个位于加利福尼亚州旧金山市附近的点,其经度为-122.084,纬度为37.421998。首先,我们需要导入必要的库和模块。接下来,我们定义一个函数,该函数将接收经度和纬度作为输入,并返回对应的Landsat路径/行号。最后,我们提取路径和行号的值,并将它们作为结果返回。现在,我们可以使用这个函数来获取特定点的Landsat路径/行号。

VwajAlgorithm的博客 348

带你了解每天认识一个设计模式-组合模式:树形结构的统一接口艺术的原则

带你了解javascript异步进阶的原则

SAFADGADSGASA的博客 739

EtherCAT主站SOEM -- 15 -- CIA402伺服驱动器子协议

以上就是EtherCAT主站SOEM – 15 – CIA402伺服驱动器子协议的内容。有不明白的地方欢迎留言;有建议欢迎留言,我后面编写文档好改进。创作不容,如果文档对您有帮助,记得给个赞。

常驻客栈的博客--嵌入式EtherCAT 2733

DAB协议解读ETSI TS 103 461

数字信号广播( Digital Audio Broadcasting 简称DAB)是继AM、FM传统模拟广播之后的第三代广播--数字信号广播,它提供了接近CD质量的声音,广播及商机无限的附加数据服务,具有抗噪声、抗干扰、抗电波传播衰落、适合高速移动接收等优点,保证固定、携带及移动时接收信号的质量。DAB的原始版本使用MP2音频编解码器。该系统的升级版本于2007年2月发布,称为DAB+,它使用基于改进的离散余弦变换(MDCT)的HE-AACv2(AAC+)音频编解码器。

qflook的博客 4477

探索每天认识一个设计模式-组合模式:树形结构的统一接口艺术的原则

探索javascript异步进阶的原则

SAFADGADSGASA的博客 486

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

分析每天认识一个设计模式-组合模式:树形结构的统一接口艺术的原则

分析javascript异步进阶的原则

SAFADGADSGASA的博客 601

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

盘点每天认识一个设计模式-组合模式:树形结构的统一接口艺术的原则

盘点javascript异步进阶的原则

ASADGSDASXA的博客 416
上一篇: 说一说每天认识一个设计模式-组合模式:树形结构的统一接口艺术的编程语言
下一篇: 了解一下每天认识一个设计模式-组合模式:树形结构的统一接口艺术可操作性
普通网友
博客等级 码龄1年 37粉丝 59原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值