- 博客(67)
- 收藏
- 关注
RSS订阅
原创 BERT基于transformer的双向编码器
BERT（Bidirection Ecoder Representations from Transformers）：左右信息，深的双向Transformer编码（enceder）模型BERT使用自监督的方式在两个任务（MLM和NSP）上进行预训练，使得编码器具备优质的提取特征的能力，迁移至下游任务进一步完成NLP的任务。
2022-03-16 09:40:15
2235
原创 MAE 掩码自编码是可扩展的学习
两个要点：一是基于非对称的编码器、解码器架构。编码器只输入没有mask的patch，编码器的输出（语义空间的潜表示latent representation）。二是mask较大比例（例如75%）的patches是一种非显然的有意义的自监督任务，由于输入图片大部分被遮住了，可以加速训练。MAE证明了，在ImageNet-1K data（ImageNet-1K data）、迁移学习、自监督学习等任务中都取得了较好的效果。
2022-03-16 09:36:48
3554
原创 Transformer 自注意力机制 及完整代码实现
编码器的每个句子是长为seq_len的语言序列，每个单词（汉字）可化长为d_model=512的向量，输入为batch*512*seq_len（x1,x2,…xn）。编码器可以看到整个输入的句子，将信息（时序）做一次汇聚（多个自注意力），提取特征。输出为batch*512*seq_len（z1,z2,…zn）解码器收到解码指令（start of scentence），开始解码，先做subsequence_mask，看不到当前时刻后的信息（一个单词一个单词翻译），然后进行自注意力机制，然后拿出Q并编...
2022-03-16 09:35:41
4687
原创 DSP笔记13-时间基准子模块Time base(TB)比较子模块Counter cpmpare(CC)
EPWMA， EPWMB，两个比较寄存器，但只有以及计数寄存器以及一个周期寄存器。时间基准子模块Time base(TB)SYNCI SYNCO同步信号链。x=0,分频系数为1。
2024-04-10 19:00:57
721
原创 DSP笔记12-PWM基础知识及EPWM
死区限定子模块Dead Band(DB) PWM斩波PWM chopper（PC） 事件触发和中断子模块Event Trigger and Interrupt(ET) 故障捕获子模块Trip Zone(TZ)时间基准子模块Time base(TB) 比较子模块Counter cpmpare(CC) 动作限定子模块Action qualifier(AQ)PWM pulse width modulation 脉冲宽度调制，宽度可调节的方波脉冲，驱动开关器件，，高电平时间站一个周期时间的比例。
2024-04-10 19:00:00
678
原创 DSP笔记10-CPU定时器
CPU定时器中断，优先级，CPU-TIMER 0的优先级最高，为INT1。使用时根据需求设定Time，设定好分频TDR，计算PRD即可。CUP完成一个周期计时，假设150MHz系统时钟。周期寄存器PRDH:PRD赋值后装在到。，并减一，减到0就会产生TIMCLK。定时器的分频器TDDRH:TDDR。28335有三个CPU定时器。计数器寄存器TIMH:TIM。计数器寄存器TIMH:TIM。预分频寄存器PSCH:PSC。周期寄存器PRDH:PRD。CPU定时器工作原理。
2024-04-10 18:49:33
929
原创 DSP笔记9-9. GPIO程序控制LED
/Disable Cpu interrupts and clear all CPU interrupt flags 禁止CPU中断。//Clear all interrupts and initialize PIE vector table 禁止CPU的所有中断。//延时500000微秒=0.5秒。// GPI023输出高电平，灯不亮。// GPI023输出低电平，灯亮。//初始化 GPI0。
2024-04-10 18:48:29
401
原创 DSP笔记8-通用GPIO
2.0V，高电平，<1.2V，低电平。：连续5次采样为低电平，则引脚为低电平。控制寄存器与外部中断源，低功耗模式唤醒选择寄存器受EALLOW保护，输出：3.3V高电平，0V低电平，CMOS电平。输入：低电平，输入0（读取到0），高电平，输入1（读取到1）。88个GPIO引脚，通用的输入输出口，功能复用的。=0输入引脚 =1输出引脚。复用，I/O引脚，外设的功能引脚，输出：0输出低电平，1输出高电平。0 无效，写1 I/O口输出高电平。0 无效，写1 I/O输出低电平。0 无效， 写1，高低电平反转。
2024-04-10 18:47:15
830
原创 DSP笔记-7时钟和系统控制
频率：20MHz，12.5MHz，30MHz，50MHz，32.768MHz。外设时钟，需要寄存器使能才打开。使用外设功能时，需要先对时钟使能（初始化）。eCAP捕获功能，eQEP解码，ePWM脉冲宽度调制，ADC采样。为了使得系统工作在低功耗状态下，只需使能用得到的外设。SPI，SCI， I2C串行通信。HISPCP 高速外设时钟。LOSPCP低速外设时钟。无源晶振，有源晶振，
2024-04-10 18:44:45
590
原创 DSP笔记6-C2000的中断机制
cpu定时器，EPWM，ADC，eCAP，EQEP，SCI，SPI，CAN。每个寄存器有标志位（中断事件是否产生）和使能位（中断有没有被使能），退出中断时，清除PIEACK，告诉cpu可以响应同组其他中断了。可屏蔽中断（通过寄存器控制），不可屏蔽中断（无条件响应）。中断源，引起计算机中断的时间，解放cpu，提高效率。三个等级：CPU中断，PIE中断，外设中断。，外设中断扩展模块（PIE）先看INT，再看INTx。单核CPU顺序执行程序。标志位PIEIFRx。使能位PIEIERx。应答位PIEACKx。
2024-04-10 18:43:44
1070
原创 DSP笔记5-存储器映像与CMA文件
EXRAM :ORIGIN = 0X100000， length = 0x00400 // 分配地址与1k大小的空间。一般调试时将程序写在RAM中，调试完成后将程序写入Flash，然后Flash指向RAM，然后再通过CPU执行程序。CMD文件中，PAGE 0 用于存代码 PAGE 1 用于存数据 SECTION 中存程序段。float x[100] // 创建变量，数据类型 变量名+数据维度。c2000将数据中存入地址为x100000的RAM中。命令，为数据分配地址和空间。
2024-04-10 18:41:56
491
原创 考研调剂：哈尔滨工程大学接收机械工程调剂研究生
大家好，同学导师团队因一志愿学生和调剂学生均未上岸还有名额，机会难得，学院大导，实验室条件优越，有意向的同学可加课题组负责调剂工作的相关人员详谈。电话：13304646208。
2024-04-10 11:08:23
282
原创 振动力学——2.单自由度系统无阻尼自由振动能量法
对于不计阻尼即认为没有能量损失的单自由度系统，可利用能量守恒原理建立自由振动微分方程，或直接求出固有频率无阻尼系统为保守系统，其机械能守恒，即动能T和势V之和保持不变
2023-01-05 11:22:37
2403
原创 振动力学——1.单自由度系统自由振动
单自由度无阻尼系统，振动解是正弦项和余弦项的叠加。因此，无阻尼的质量弹簧系统受到初始扰动后，其自由振动是以为振动频率的简谐振动，并且永无休止。对于初始条件，可以认为是外界能量传入了系统，初始位移即传入了弹性势能，初始速度即传入了动能。
2022-12-21 11:30:55
4022
原创 振动力学——前言
振动是自然界普遍的现象之一，声、光、热等都包含振动。桥梁在风作用下的振动；借助数学、物理、实验和计算技术，探讨各种振动现象，阐明振动的基本规律，以便克服振动的消极因素，利用其积极因素，为合理解决各种振动问题提供理论依据。系统，又称分布参数系统，其特点是结构参数（质量、刚度、阻尼等）在空间上连续分布，分析该类问题的数学工具是偏微分方程。交替变化的物理量是一些机械量或力学量（位移、速度、加速度、应力、应变等），这种振动称为机械振动。质量是感受惯性（包括转动惯量）的元件，刚度是感受弹性的元件，阻尼是耗能元件。
2022-12-21 11:15:39
800
原创 西门子1200PLC中OB,FC,FB,DB
临时变量：存储在L堆栈中，块执行结束后，变量消失；静态变量：存储在背景数据块中，块调用结束后，变量被保留；（1）OB组织块OB1（MAIN）主程序块OB100：上电初始化，PLC状态stop转为run时，启动一次。OB30：可指定时间间隔，循环中断。可用于模拟量采集。（2）FC函数函数(FC)是用户编写的程序块，是不带存储器的代码块。由于没有可以存储块参数值的数据存储器，因此，调用函数时，必须给所有形参分配实参。FC 里有一个局域变量表和块参数。局域变量表里有：Input(输入参数)、Output(输出参数
2022-12-07 10:53:02
7674
原创 流体动力润滑（轴承油膜承载机理）
两个相对运动物体的摩擦表面，用于借助相对速度而产生的黏性流体膜将两摩擦面完全隔离开，由流体膜产生的压力来平衡外载荷，成为流体动力润滑，所用的黏性流体可以使液体，也可以是气体。
2022-11-22 19:12:43
7958
原创 创建并配置一个新的python环境
当我们需要处理不同的问题或者我们使用网上一些python2版本的代码时。通过创建多个环境并根据需求切换使用是非常方便的。下面我们就介绍如何创建一个新的python环境并为其配置包。
2022-11-10 19:39:42
9984
原创 Action CLIIP：A New Paradigm for Video Action Recognition
在图像分类这边使用one-hot编码没有问题，一般来讲一个物体对应一个名词，就存在一种“一一对应”关系。但是在视频这边比如“open the door”对应就是一个短语，对应三个单词，另外，open这个动词可以描述很多动作。这时就有一个trade off（折中），标记很多类，人工标注成本提高，softmax效果也不好，常规的分类算法可能表现都很差。只标注大类，就无法预测细粒度的小类。最理想的方法就是摆脱标签的限制，从大量的视频数据中学好的特征，然后再去zero-shot或者few-shot迁移至下游任务。
2022-09-30 08:57:24
1556
原创 视频领域 CLIP4clip：An Empirical Study of CLIP for End to End Video Clip Retrieval
视频检索，CLIP4clip中CLIP指OpenAI的CLIP模型，clip指的是视频中的clip。CLIP模型很适合做Retrieval（检索）任务，因为它就是做图像和文本之间相似性，根据相似性可以去做ranking、matching以及retrieve等任务。而且由于双塔结构（图像文本编码器分开），得到的image embedding和text embedding做一步点乘就可以计算相似度，因此非常容易扩展
2022-09-30 08:54:22
2769
原创 CLIP Passo：Semantically-Aware Object Sketching图像生成简笔画
保持语义信息的物体素描：图片变成简笔画的形式，可生成各种层次的主要轮廓并且保留其主要视觉特征。不仅要把原来的物体变成一个非常简单的形象，也要保证观众能不能看出这到底是个什么物体，这就需要模型抓住原来物体最关键的一些特征。
2022-09-30 08:51:36
1824
原创 GLIP_V1/V2（Ground Language-Image Pre-train）CVPR2022
vision grounding任务：给你一句话，你去把这句话里的物体在当前图片中定位出来。就类似一个目标检测任务。CLIP是一个图像文本配对任务。将两个任务结合起来，再加入伪标签（self training），这样模型就可以在没有标注过的图像文本对上生成bbox标签。从而扩张整个训练数据集的数量。
2022-09-27 21:38:57
1106
原创 ViLD（Open-Vocabulary Object Detection via Vision and Language Konwledge Distillation）
基于视觉语言（图像文本）知识蒸馏的目标检测。CLIP模型当成teacher模型，去蒸馏自己的模型，从而达到zero-shot。
2022-09-27 21:37:21
5064
1
原创 Group ViT（Semantic Segmentation Emerges from Text Supervision）
让模型在最初的时候能将周围相邻相似的像素点group起来，变成Segmentation mask。Group ViT的贡献就是在也有的ViT模型中加入Grouping Block，同时加入了可学习的Group Tokens。
2022-09-27 16:51:45
2586
原创 Lseg（Language -driven semantic segmentation）
这篇论文的意义在于将文本的分支加入到传统的有监督分割的pipeline模型中。从而在最后推理的时候能使用文本的prompt任意的得到分割的效果。此处密集的图像特征需进一步放大（up scaling）得到新的特征的图与原图大小一致，这一步也是为分割任务的实现。第一行图中，能够完美的将狗和树分开，为了验证模型的容错能力，加一个汽车vehicle的标签，模型中也并没有出现汽车的轮廓。，因为分割任务的数据集都比较小（10-20万），为保证文本编码器的泛化性，就直接使用并锁住CLIP中文本编码器的参数。
2022-09-27 16:49:52
2452
原创 DETR：End to End Object Detection with Transformers
之前目标检测中不论proposal based的方法还是anchor based 的方法，都需要nms（非极大值抑制）等候处理的方法筛选bbox（bounding box）。由于nms的操作，调参比较复杂，而且模型部署起来也比较困难。因此，一个端到端的目标检测模型是一直以来所追求的。DERT很好的解决了上述问题，不需要proposal和anchors，利用Transformer全局建模的能力，把目标检测看成集合预测的问题。而且由于全局建模的能力，DETR不会输出太多冗余的边界框，输出直接对应最后bbox，不
2022-09-19 15:08:21
2047
原创 ViLT Vision-and-Language Transformer Without Convolution or Region Supervision
Vision and Language Pre-training(VLP)已经已经在视觉语言的多模态下游任务中发展的很好。然而，当前VLP的工作主要集中在图像特征抽取上，一般来讲，图像特征抽取的越好，下游任务中的表现就越好。但是，现在主要有两个问题，一是效率太低，速度太慢，抽取图像特征花费大量时间，比多模态融合都多。我们应该花费更多时间在融合上。第二个是，你用一个预训练好的模型去抽取特征，表达能力受限。目标检测数据集不够大，规模不够大。如果模型不是端到端学习，只是从预训练模型抽取特征，大概率来说不是最优解。
2022-09-17 16:39:25
872
1
原创 DALLE·2（Hierarchical Text-Conditional Image Generation with CLIP Latents）
CLIP已经能够学习到很稳健的特征，比如语义semantics和风格style，如果只是拿来做分类就很可惜，如果能拿来做图像生成任务。两个阶段prior和decode。
2022-09-15 16:08:16
15233
1
原创 初学者进行传感器选型
网上传感器的厂家有很多，都会提供优质的服务。如果你是第一次选择传感器，我们需要根据设计的要求，为厂家提供传感器的参数，让厂家帮忙选型。
2022-07-25 19:53:19
1432
原创 A NOVEL DEEP PARALLEL TIME-SERIES RELATION NETWORK FOR FAULT DIAGNOSIS
介绍一篇2022年来自电子科大的论文，深度并行时序网络0.摘要考虑到应用时序数据的上下文信息的模型能够提高故障诊断的表现，一些网络（RNN,LSTM,GRU）对诊断结果比较有效。然后，这些模型受限于计算复杂度，难以达到很高的诊断效率。由于大尺寸的卷积核或深层的架构，并行CNN要处理长期的信息也难以达到较高的效率。BERT模型采用绝对位置编码为模型引入了上下文信息，但同时也带入了噪音。为了处理上述问题，提出deep parallel time-series relation network(DPTRN)。有以
2022-06-20 08:43:09
217
原创 IMS-FACNN(Improved Multi-Scale Convolution Neural Network integrated with a Feature Attention Mecha
介绍一篇2020年上海科技大学的论文，深度并行时序网络。目录1.引言2.网络架构3.模型细节3.1改进的多尺度粗粒度处理过程3.2特征注意力层3.3整体架构5.实验6.结论传统的基于信号处理的诊断方法，如EMD,VMD,ELMD等，基于时频分析，流行学习，或稀疏表征。上述方法提取的特征都将作为浅的（shallow）学习机（SVM,Logistic Regression）的输入。然而，这些学习方法的上限严重依赖提取特征的好坏。更为重要的是，由于诊断能力的限制，这些浅学习模型将会导致其在复杂工况下的泛化能力变差
2022-06-20 08:39:03
861
原创 权重衰减 weight decay
权重衰减使用均方范数作为硬性限制，通过限制参数值w的范围来控制模型容量。dropout则是通过减少参数值来简化模型，二者都可防止过拟合。超参数 控制正则的重要程度，惩罚的强度， =0无惩罚； 越大，参数值控制在越小的范围内。惩罚项 为以原点为中心的圆环，损失项 如右绿色圆环，距离损失函数最优点 越近，梯度变换越小，即w变化对loss的影响越小 (ABC梯度逐渐减小)。因此找到一个平衡点 ，惩罚项 加损失项 最小，为新目标函数的最优解。...
2022-04-30 08:35:22
734
原创 简述EMD分解、希尔伯特变换、谱方法
只对EMD分解，希尔伯特变换以及一些谱方法的功能做简述，意在告知你输入一个什么信号，可以得到什么结果，本人不是信号处理的，只是拿来用这些方法，对原理也不了解。目录1.EMD分解2.希尔伯特-黄变换3.边际谱4.包络谱5.轴承故障1.EMD分解EMD（经验模态）分解：将复合（非平稳）信号分解成不同IMF分量。简单概括就是讲复杂信号分解成简单信号，可将调制信号分解成高频（固有频率）载波信号和故障特征（冲击）信号。2.希尔伯特-黄变换希尔伯特-黄变换（HHT）：E.
2022-04-29 15:17:16
7453
原创 Bag of Tricks训练卷积网络的技巧
0.引言近期图像分类的研究的许多进步可归因于训练过程的精炼（training procedure refinements）作者就将这些精炼技巧做了总结，并证明使用这些技巧训练的模型迁移至下游任务时也表现的很好。1.引言由AlexNet到VGG、ResNet再到NASNet—A，精度不断提升，这不仅仅是模型架构带来的改变，损失函数、数据增强以及优化方法也在提升模型精度方面起着重要的作用。However, these advancements did not solely come from i
2022-04-26 09:10:28
238
原创 VAN(DWConv+DWDilationConv+PWConv)
1.引言最初自注意力机制（self-attention）的提出是在NLP领域，但是由于其全局特征提取的能力，自注意力机制很快就席卷了CV领域。但是对于2D的图像，self-attention有以下不足：（1）将图像铺成1D序列损失了2D结构信息。（2）平方复杂度使得高分辨率的图片（如800*800）计算开销太大了。（3）仅仅提取了空间上的适应性，而忽视了通道channel维度的适应性。因此，基于LKA（Large Kernel Attention）提出一种新的网络架构VAN。尽管架构比较简单，就是D..
2022-04-22 15:02:56
7164
5
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人