最新热点!融合创新!Transformer+并行网络:局部特征+全局特征;时序特征+空间特征!小白也会用的分类预测程序!

使用Transformer融合时空信息的自动驾驶感知框架 本文提出了一套基于Transformer和时序模型在鸟瞰图视角下优化特征的环视物体检测方案,即BEVFormer。nuScenes数据集上以NDS指标(类似mAP),在camera only赛道中 大幅领先 之前方法。本文旨在介绍我们在设计BEVFormer过程中考虑的思路、比较的多种方法、以及下一步可能的研究方向。... 阅读详情
AI摘要

本文提出基于Transformer、递归图和双支路并行多模态融合的故障识别程序,有七重创新点,适用于多种数据分类场景。还分享大模型AI学习路径,包括初阶应用、高阶应用、模型训练和商业闭环四个阶段,并提供免费学习资料。

Science Technology

Transformer模型是当前预测领域的热门模型,但在故障识别即分类领域尚缺乏相关文献,更别说其改进模型了,时序图像多模态融合+Transformer+并行异构模型的必定是创新性极高的发文方向,且这方面的文献极度稀缺,可以说一投就中。本程序结合上述3篇文献,并对其进行多重改进创新!!!提出基于1D-2D-RP-BiTransformer-GRU+双支路优化+多模态融合的故障识别程序,改进点超多!创新点十足!足够支撑一篇高水平学术论文。

  • 数据预处理方面参考文献三,利用递归图的相空间重构法将一维波形转化为二维图像;

  • 图像特征提取方面参考文献一:搭建Transformer模型用于提取递归图的空间特征

  • 故障识别模型结构参考文献二:构造并行优化模型,支路1采用时间序列波形输入,GRU神经网络提取时间序列的时序特征,支路2采用Transformer编码器,提取图像特征,实现时序、图像空间特征融合构成:1D-2D-RP-BiTransformer-GRU-并行双支路优化的多模态融合故障识别程序

文献一解读

文献一工作解读:构建基于Transformer 编码器的电力系统暂态稳定评估方法,Transformer通过注意力机制实现全局感受野,使模型快速捕获电力系统前后时刻间的全局状态依赖关系,具备良好的可解释性,且故障识别准确率较高。

本程序区别于文献一在于:上述文献采用数值矩阵作为输入量,而采用二维递归图图像作为Transformer的输入量,在故障识别、分类任务领域目前还没人这么做!相比于传统的卷积神经网络(CNN),它可以在全局范围内对特征进行加权处理,而不仅仅局限于局部区域。这种全局感知能力在故障识别中尤为重要,尤其是在信号或图像数据中存在远距离关联的情况下。

文献二解读

文献二创新点:该方法以并行网络特征融合的方式,使用全卷积神经网络(FCN)和长短期记忆网络(LSTM)并行挖掘电能质量扰动在空间和时序上的高维特征,时序特征与空间特征的并行融合,提升模型的分类性能。

文献三解读

文献三解读:引入递归图的方法,将一维电流信号映射为二维图像,以提高故障特征信息的丰富性并消除人工特征提取的影响,实现故障特征的增强显示,后续采用卷积神经网络,增加注意力机制和构造残差连接,实现故障的有效分类。

结合文献一的Transformer模型和文献三的RP递归图转换方法,和文献二双支路并行特征融合模型,提出基于Transformer、递归图(RP)和双支路并行多模态融合的故障识别程序:1D-2D-BiTransformer-GRU并行双支路优化的多模态融合故障识别程序,创新点十足,足够支撑一篇高水平学术论文,硕士毕业论文、课程设计等简单任务更是绰绰有余。

1D-2D-BiTransformer-GRU并行双支路优化的多模态融合故障识别程序

  • 仅需原始故障波形数据,即可根据波形数据,将一维序列转化为二维递归图像。

  • 引入Transformer模型提取递归图像的空间特征,避免了故障信号处理时人工特征 提取的影响,在全局范围内对特征进行加权处理,增强模型的全局特征提取能力。

  • 搭建双支路模型,将一维时序信号和二维图像融合,可以综合利用不同模态的信息,从而更全面地描述数据的特征。这有助于提取更丰富、更有区别性的特征,从而提高分类和识别的准确性。

  • ①一路为图像输入,经Transformer编码支路提取递归图像的空间特征;②另一路为故障波形直接输入经GRU提取时序特征,高维图像特征和一维时序特征融合;③融合内部多头注意力机制有效把握提取特征的贡献程度,将特征进行重点强化,提高故障识别的准确率;④,并计算精确度、召回率、精确率、F1分数等评价指标。故障识别流程如下:

七重创新点:

1、多模态融合:将一维时序信号和二维图像融合,可以综合利用不同模态的信息,从而更全面地描述数据的特征。这有助于提取更丰富、更有区别性的特征,从而提高分类和识别的准确性。

2、时序信息捕获:GRU(门控循环单元)是一种适用于时序数据的循环神经网络,它能够捕获一维时序信号中的动态变化和趋势。通过将GRU与全新的Transformer并行结合,算法可以同时考虑时序特征和空间特征,进一步提升了算法的性能。

3、空间特征学习:Transformer全局特征提取中表现出色,能够有效地学习图像的空间特征和局部模式。将Transformer用于图像数据的处理可以帮助提取图像的纹理、形状和边缘等特征,有助于更准确地进行分类和故障识别。

4、融合优势:通过融合不同模态的信息,算法可以弥补一维时序信号和二维图像各自的局限性。例如:图像可能对于某些故障模式更敏感,而时序信号则对于其他模式更敏感。将它们结合起来,可以增强算法的鲁棒性和泛化能力。

5、多头自注意力机制:Transformer融合多头注意力机制有效把握提取特征的贡献程度,将特征进行重点强化,提高故障识别的准确率。

6、提高泛化能力:多模态融合可以帮助算法更好地理解数据的本质特征,从而减少过拟合的风险,提高算法在新数据上的泛化能力。

7、可解释性:为提升模型的可解释性,应用_t_-SNE可解释性算法对各个支路模块的特征图进行可视化;对比原始样本和1D-2D-BiTransformer-GRU多模态融合提取特征后的样本分布情况。

适用领域:适用于各种数据分类场景,如滚动轴承故障、变压器油气故障、电力系统输电线路故障区域、绝缘子、配网、电能质量扰动,等领域的识别、诊断和分类。

直接替换数据就可以,使用Excel表格直接导入,不需要对程序大幅修改。程序内有详细注释,便于理解程序运行。

数据格式:一行一个样本,最后一列为样本所属的故障类型标签

程序结果:(由上述一维序列自动转化为递归图RP图像)

程序结果:

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

Transformer Tracking Xin Chen, Bin Yan, Jiawen Zhu, Dong Wang, Xiaoyun Yang and Huchuan Lu 1School of Information and Communication Engineering, Dalian University of Technology, China 2Peng Cheng Laboratory Remark AI CVPR 2021 摘要: Correlation acts 在跟踪领域起着关键性作用,尤其是在最... 阅读详情

相关推荐

ReID基础 | 全局特征和局部特征

ReID

滨哥v5的博客 7240

多模态图像融合全新里程碑!性能暴涨至99.48%,效率提升4倍

强烈建议所有做图像任务的伙伴,一定不要忽略这项至关重要的技术:多模态图像融合!它能将不同模态的信息结合,克服单一模态的图像信息量有限的问题,在提高图像处理任务的准确性和效率方面效果显著!比如新模型DeepM2CDL便实现了性能提升至99.48%的炸裂效果!而模型MACTFusion,则通过引入注意力机制,在性能提升的同时,训练速度快4倍!正是基于该方法效果卓越,各种改进层出不穷!简述:本篇论文提出了一种名为DeepMCDL的深度多尺度多模态卷积字典学习网络。

m0_59235245的博客 2579

【AI知识点】启发式算法(Heuristic Algorithms)

启发式算法(Heuristic Algorithms) 是一种基于经验、直觉和局部优化的求解问题的算法,尤其适用于解决计算复杂度高、规模庞大的问题。它们通过简化问题、局部搜索和快速近似,提供了一种在短时间内获得“足够好”解的途径。虽然启发式算法无法保证全局最优解,但它们在实际应用中广泛使用,特别是在优化问题、任务调度和机器学习等领域。

AI完全体 3033

Bootstrap弹出模态框

弹出模态框 (Modal) 使用Bootstrap的JavaScript模态框插件可以为您的网站添加醒目的提示和交互,用于通知用户、访客交互、消息警示或自定义的内容交互(如考试问答场景-译者注) 运行原理 在开始使用Bootstrap模态框组件前,请务必阅读以下内容,因为我们的菜单选项最近有新的更改迭代。 弹出模态框是用HTML、CSS和Javascript构建的,它们位于文档中其它表现元素之上,并从中删除滚动事件,以便模态框自身的内容能得到滚动。 点击模态框的“backdrop”(灰背景区域),将自动关闭

qq_44883796的博客 1036

基于PLC1200与CB1241的RS485从站Modbus Rtu通信实战指南

本文提供了一份详细的西门子S7-1200 PLC与CB1241 RS485通讯板实现Modbus RTU从站通信的实战指南。内容涵盖从硬件接线、博途软件组态、关键参数设置到程序调试与测试的全过程,重点解析了Modbus_Slave指令配置与数据块映射,帮助工程师快速掌握工业自动化系统中的数据采集与设备接入技术。

Apple的专栏 796

(35)远程识别(又称无人机识别)(一)

Ardupilot官网关于《Peripheral Hardware》的翻译 —《(35) 远程识别(又称无人机识别)》。

无人机开发(开源Ardupilot) 4万+

【基于Tansformer的融合方法:感知损失:传递-感知损失】

仅供自己参考

weixin_43690932的博客 1901

疫情数据分析的“核武器”!JHU CSSE COVID-19数据集超深度解析与实战指南(附代码)

在面对这场没有硝烟的战争时,除了医护人员在前线与病毒搏斗,还有一群默默的英雄——数据科学家和分析师,他们利用手中的“数据武器”,昼夜不停地监测、分析、预测疫情走势,为政府决策、资源调配、公众科普提供了至关重要的支撑。同时,由于某些国家(如美国、加拿大、澳大利亚、中国等)的数据细化到省/州级别,为了得到国家层面的总数据,我们需要按国家和日期进行聚合。正是在这样的背景下,经过这些步骤,我们已经得到了一个包含了累计数据、每日新增数据和活跃病例数的完整数据集,可以开始进行深入的分析和可视化了!

wylee的博客 1167

结合创新!多尺度特征融合+Transformer,参数和计算成本减半

通过多尺度特征融合,模型能够捕捉到不同层次的视觉细节,而Transformer的自注意力机制能够在这些不同层次的特征之间建立联系,有效地整合全局上下文信息,让模型能够应对多样化的视觉场景和变化。这种结合策略充分利用了二者各自的优势,不仅有助于模型因为它可以更好地利用计算资源,通过并行处理不同尺度的特征来提高计算效率。它允许ViTs在每个注意层的混合尺度上建立注意模型,使自我关注能够学习不同大小的物体之间的关系,并同时减少标记的数量和计算成本,实现了不损失性能,却参数减半的效果。本文分享。

学姐带你玩AI的博客 7798

【NVIDIA驱动的顽固问题】---- /dev/sdax:clean,xxx/xxx files,xxx/xxx blocks ---- 最全解决方法

本文的意义在于整理总结关于此问题的全部解决方法,希望能给大家节约时间。

lc1852109的博客 3128

【STM32Cube HAL】输入捕获(六)——PWM测量

实验内容:使用通用定时器输入捕获测量信号的脉宽(检测按键按下的时间)。 一、原理图 二、 CubeMX配置 Step1.打开 STM32CubeMX,点击“New Project”,选择芯片型号,STM32F103VETx。 Step2.选择时钟源,并配置时钟树。选择Crystal/Ceramic Resonator,并配置系统时钟为72M。 Step3.配置SYS,我们这里选择的是Serial Wire。(正常情况配置不配置不影响,debug可以使用。但是你不可以把这...

HAHAHA 1万+

融合创新!全局特征+局部特征,性能优于Transformer

在图像处理领域,是一种常见且十分高效的策略,用于提高图像分析和识别任务的性能。全局特征反映了图像的整体属性,如颜色分布、形状轮廓等,它们通常对图像的尺度和旋转具有不变性。局部特征关注于图像中特定关键点或区域的特性,如角点或边缘,这些特征有助于识别图像中的特定对象和细节。这种融合策略综合利用了不同特征之间的优势互补,可以,是CV领域值得深入研究的重要方向。本次分享,有最新的也有经典的,可借鉴的方法和创新点我做了简单介绍,原文以及相应代码都整理了,方便同学们学习。论文原文以及开源代码需要的同学看文末。

学姐带你玩AI的博客 1万+

C#读取和写入excel表数据--手把手教详解

C#读写excel数据详解

如如水的博客 4056

【图像分割模型】全局特征与局部特征的交响曲—ParseNet

这是专栏《图像分割模型》的第7篇文章。在这里,我们将共同探索解决分割问题的主流网络结构和设计思想。 尽管多尺度融合、空洞卷积都可以增加网络的感受野,但理论感受野与实际感受野仍然存在差异。那么如何真正利用图像的全局信息呢?ParseNet告诉你。 作者 | 孙叔桥 编辑 | 言有三 本期论文《ParseNet: Looking Wider to See Better》 1 理论感受...

hacker_long的专栏 5233

9 硬件工程师笔面试高频知识考点真题解析——运算放大器

运算放大器(运放)摘要 运放是一种高增益、差分输入的模拟集成电路,具有虚短(线性区输入电压相等)和虚断(输入电流为零)特性,支持负反馈(线性放大)和开环/正反馈(饱和区比较)两种工作模式。关键特性包括高输入阻抗、低输出阻抗,理想运放参数(如无限增益)与实际参数(如有限带宽)的差异。 选型要点: 信号特性:直流/低频信号关注失调电压(Vos)、温漂;高频信号侧重带宽(GBW)和压摆率(SR)。 电源条件:单/双电源供电、电压范围及功耗需求(如电池设备需低静态电流)。 精度与噪声:微弱信号需低噪声运放,高精度场

XU157303764的博客 1677

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

【基础知识】时序特征融合(注意力机制)

比如:当前帧和参考帧的图像通道数是1024,假设8头的话(N=8),图像就会被拆成8个128通道的特征,并对每个特征分别进行注意力。自注意力机制是注意力机制的一种特殊形式,其中查询、键和值都来自于同一组输入序列。主要关注输入序列中不同元素之间的关系。注意力机制是一种机制,用于在输入序列中对不同位置的信息分配不同的权重。主要关注输入元素与外部/全局元素之间的关系。理解:相当于卷积神经网络中的多个kernel,多个kernel可以学习多种特征表达。这个up主对于注意力公式的讲解非常容易理解和记忆。

qq_42021262的博客 2209

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

CVPR 2023 | 结合Transformer和CNN的多任务多模态图像融合方法

©作者 | 奥本海默本文为大家带来 CVPR 2023 在图像融合领域的最新工作 CDDFuse: Correlation-Driven Dual-Branch Feature Decomposition,作者是西安交通大学的赵子祥博士。本文的整体架构和赵博士先前在 IJCAI 上发表的 DIDFuse 有继承关系,这次的亮点是:结合 CNN 和当前火爆的 Transformer;将特征解耦的思想...

Paper weekly 6677

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

Transformer

Transformer模型就完全的放弃了传统的循环结构,而是只通过自注意力机制来计算输入与输出的隐含表示。简单来说自注意力机制就是通过某种运算来直接计算得到句子在编码过程中每个位置上的注意力权重,然后再以权重和的形式来计算得到整个句子的隐含向量表示。

不要錯過才珍惜 1748

全局图像特征与局部图像特征区别

全局特征是指图像的整体属性,常见的全局特征包括颜色特征、纹理特征和形状特征,比如强度直方图等。由于是像素级的低层可视特征,因此,全局特征具有良好的不变性、计算简单、表示直观等特点,但特征维数高、计算量大是其致命弱点。此外,全局特征描述不适用于图像混叠和有遮挡的情况。局部特征则是从图像局部区域中抽取的特征,包括边缘、角点、线、曲线和特别属性的区域等。常见的局部特征包括角点类和区域类两大类描述方式。 ...

我的博客 1万+

TransFusion | 基于Transformer的多模态融合算法(CVPR2022)

作者|zyrant 编辑|汽车人原文链接:https://zhuanlan.zhihu.com/p/502087587点击下方卡片,关注“自动驾驶之心”公众号ADAS巨卷干货,即可获取后台回复【多模态综述】获取论文!后台回复【ECCV2022】获取ECCV2022所有自动驾驶方向论文!后台回复【领域综述】获取自动驾驶全栈近80篇综述论文!1关键词:CVPR202...

CV_Autobot的博客 8263

局部特征融合为全局特征笔记

图像特征分为全局特征和局部特征两种,其中全局特征代表了图像的整体表现特性,比如颜色直方图,而局部特征代表了图像的局部特性,往往能够从一幅图片中提取出若干个数量不等的局部特征, 这些局部特征组合起来代表了整幅图像的特征分布。其中局部特征提取算法(比如SIFT)提取出来的局部特征称为描述子,比如SIFT描述子的维度为128,那么如果从一张图像中提取出m个描述子, 该幅图像的描述子矩阵为m*128。...

silence2015的专栏 1万+
上一篇: 还在死磕AI咒语?北大-百川搞了个自动提示工程系统PAS
下一篇: ECCV2024|GalLoP:多模态提示学习——视觉-语言模型的全局和局部提示
Python_金钱豹
博客等级 码龄5年 1万+粉丝 2839原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值