- 博客(23)
- 收藏
- 关注
原创 左手Nature右手CVPR,时空预测依旧神一般存在!
上下文门控循环神经网络(CGRNN):通过上下文门控机制,利用全局上下文信息重新加权不同历史观测值,显著提高了时间相关性建模的准确性,相较于传统RNN方法,预测误差降低了超过10%。性能提升:在多个大规模时空数据集上,BAYESNF的预测误差显著低于现有方法,均方根误差(RMSE)和平均绝对误差(MAE)分别降低了约10%和15%。性能提升:在多个复杂动态系统上,S3GM的预测误差显著低于现有方法,均方根误差(RMSE)和平均绝对误差(MAE)分别降低了约15%和20%。
2025-08-21 13:48:45
1239
原创 登上Nature子刊!热门论文方向:液态神经网络
液态神经网络是一类受生物神经系统启发的新型神经网络架构,通过模拟神经元的动态行为和信息处理方式,能够处理复杂的动态信号,并且具有更强的适应性和鲁棒性。CfC模型设计:设计了一种新的神经网络架构CfC,该架构通过引入时间门控机制和改进的非线性函数,提高了模型的表达能力和稳定性。无需先验知识:FermiNet在没有先验知识的情况下,能够准确地学习到系统的基态波函数,这在实际应用中具有重要意义。性能提升:FermiNet在预测基态能量方面达到了99%的精度,与现有的SJB-VMC和SJB-DMC方法相当。
2025-08-19 10:27:36
1930
原创 准确率高达99.12%!ResNet+Transformer完美结合
性能提升:与ResNet系列模型相比,Swin Transformer Large模型的准确率提升了4.56%(相比ResNet34),敏感性提升了3.98%,特异性提升了5.49%,表明Transformer架构在处理医学图像分类任务时具有显著优势。Transformer集成:将Transformer与ResNet结合,有效解决了传统RNN在处理长序列数据时的梯度消失和遗忘问题,平均RMSE比LSTM降低了57.14%,平均MAE降低了55.56%。
2025-08-18 11:57:16
1139
原创 时间序列再创辉煌!结合对比学习暴力涨点!
表示差异放大:通过双注意力对比结构,显著放大了正常点和异常点之间的表示差异,从而提高了异常检测的准确性(例如在MSL数据集上,F1分数达到96.60%,比其他方法高出约2%)。计算效率:通过实例归一化和多尺度设计,提高了模型的计算效率,减少了内存使用(例如在NIPS-TS-SWAN数据集上,F1分数达到73.4%,比其他方法高出约3%)。无需重建损失:不依赖于重建损失,避免了异常对表示学习的干扰,提高了模型的鲁棒性(例如在PSM数据集上,F1分数达到97.94%,比其他方法高出约1%)。
2025-08-15 11:53:41
1359
原创 预测误差爆降100倍!频域+PINN简直杀疯了
PINN作为一种深度学习方法,通过将物理定律嵌入神经网络的训练过程,能够在仅有少量数据的情况下学习物理系统的解,其核心在于利用已知的物理定律来约束神经网络的训练,从而提高模型的准确性和泛化能力。而频域分析则是一种将信号从时间域转换到频率域的方法,通过傅里叶变换实现,它在处理具有周期性或振荡性行为的系统时表现出色,能够帮助我们更好地理解系统的动态行为,提取关键特征,并进行有效的建模和预测。高效处理稀疏数据:DFD-PINN能够从稀疏的测量数据中恢复隐藏的连续物理过程,适用于实验环境中的高精度预测。
2025-08-14 11:18:26
1441
原创 突破传统局限!2025必将是特征提取爆发的一年!
适配器学习框架(ACL):提出了一种基于适配器的持续学习框架,通过在预训练的固定特征提取器中添加轻量级的任务特定适配器(adapter)来学习新的疾病类别。性能提升:在多个医学图像数据集上验证了该方法的有效性,例如在Skin8数据集上,平均类别召回率(MCR)达到了66.44%,比之前的最佳方法高出2.64%。合成波长方法:首次提出“合成波长”方法,通过微梳源的两个波长通道携带复值权重的实部和虚部,解决了复值权重在光学系统中的映射问题。
2025-08-12 11:27:17
2609
原创 小波卷积YYDS!小波变换+CNN创新结合
小波卷积通过先将输入信号或图像进行小波分解,得到不同尺度的子带信号,然后在每个子带信号上应用卷积操作来提取局部特征,最后通过逆小波变换将经过卷积处理的子带信号重构为最终的输出信号或图像。深度1D CNN模型:提出的12层深度1D CNN模型在心律失常分类中表现出色,平均准确率达到99.40%,精度达到98.78%,召回率达到98.78%,F1分数达到98.74%,明显优于现有方法。小波变换去噪:通过小波变换有效去除了ECG信号中的噪声,显著提高了信号质量,为后续特征提取提供了更清晰的信号基础。
2025-08-11 14:54:03
1047
原创 深度学习不容错过的论文方向:多模态特征融合!
例如,在一个视频会议场景中,我们可以通过视频看到参会者的表情和动作(视觉模态),通过音频听到他们的声音(听觉模态),甚至可以通过文字记录了解会议内容(文本模态)。Transformer融合机制:提出的基于Transformer的融合机制能够处理任意维度、大小和序列长度的SSL特征,相比传统方法,模型在四个数据集上的平均准确率提升了5%以上。视觉提示理解:通过视觉提示注入策略,模型在视觉提示理解任务上的性能显著提升,例如在RefCOCOg数据集上,METEOR分数提升了1.4。
2025-08-08 11:03:38
1366
原创 MIT成果登上Nature!液态神经网络YYDS
受扰动神经网络势(PNNP):提出了一种新的分子动力学模拟方法,通过将总原子力表示为标准神经网络势(代表未扰动势能面)和由电场诱导的扰动(通过原子极化张量表示)的和来实现。紧凑网络结构:提出了紧凑的神经回路策略(NCP),仅用19个控制神经元和253个突触连接,实现了从高维输入到转向命令的映射,显著优于现有的大规模黑盒学习系统。计算效率:与传统的深度学习模型相比,NCP在保持高性能的同时,显著降低了模型的复杂度和计算成本。
2025-08-06 13:51:24
1768
原创 傅里叶变换+注意力机制,狂发顶会!
例如,在Cityscapes数据集上,AFNO-100%(使用所有频率模式)的mIoU达到了80.9%,比使用高效自注意力机制的模型高出2%以上。混合模型:FNet-Hybrid模型通过在FNet的最后两层加入自注意力机制,进一步提高了模型的准确性,同时保持了较高的训练速度。软阈值化稀疏化:通过软阈值化操作,对频率模式进行稀疏化处理,提高了模型对高频信息的鲁棒性,同时保留了重要的语义信息。高效实现:通过FFT算法,FNet在GPU和TPU上的训练速度分别提高了80%和70%,显著提升了模型的训练效率。
2025-08-04 12:00:36
1190
原创 颠覆!Mamba+时序预测,最新暴力涨点方案
部分翻转Mamba(PF-Mamba):通过部分翻转输入序列,显著提升了模型对上下文信息的捕捉能力,尤其是在处理长序列时,性能提升显著(例如在Beauty数据集上,Hit@10提升了1.96%)。密集选择性门(DS Gate):动态分配两个方向的权重,进一步过滤序列信息,显著提升了模型的整体性能(例如在Sports数据集上,NDCG@10提升了2.62%)。Mamba+块:通过遗忘门机制在更长的时间范围内保留历史信息,显著提升了模型的长期依赖捕捉能力(例如在ETTh1数据集上,MSE降低了3.76%)。
2025-08-01 11:41:38
1406
原创 小波变换+Transformer真不愧是顶会热门!
小波变换是一种强大的信号处理工具,能够将信号分解为不同频率的子带,从而捕捉不同分辨率下的细节信息。最小描述长度准则(MDL)和熵方法:结合MDL和熵方法选择最优的母小波和分解水平,减少特征向量的维度。模拟与实验数据一致性:使用模拟数据训练的SVM能够准确识别实验数据中的故障,验证了方法的泛化能力。噪声去除效果显著:通过小波包滤波器预处理,显著提高了信号的信噪比,增强了故障识别能力。连续小波变换(CWT):对预处理后的信号进行CWT,提取时间-频率域中的显著特征。
2025-07-31 11:54:45
1711
原创 PINN+贝叶斯:深度学习中的魔改新思路
PINN通过将物理定律(如偏微分方程PDEs)嵌入神经网络的损失函数中,使得模型能够利用已知的物理规律来指导学习过程,从而在数据有限或噪声较多的情况下实现更高的准确性。贝叶斯物理信息极限学习机(BPIELM):结合物理信息极限学习机(PIELM)和贝叶斯方法,通过在输出层引入先验概率分布,并利用贝叶斯方法估计参数的后验分布。贝叶斯物理信息神经网络(B-PINNs):结合贝叶斯神经网络(BNN)和物理信息神经网络(PINN),通过贝叶斯框架量化噪声数据中的不确定性。
2025-07-30 11:46:52
1582
原创 机器学习这么做绝了!结合运筹优化发1区
机器学习和运筹优化在解决复杂问题时具有互补性。方法论框架:提出了一个将机器学习与组合优化相结合的方法论框架,强调了将优化问题视为数据点,并探讨了如何选择合适的分布来进行学习。方法论框架:首次提出了将机器学习与组合优化相结合的方法论框架,为该领域提供了新的视角,提升了优化算法的灵活性和适应性。性能提升:在深度学习模型中,通过优化技术改进的训练方法,模型的收敛速度提高了40%,同时保持了较高的准确率。模型分析:首次从数学优化的角度全面分析了机器学习中的多种优化问题,为优化领域的研究者提供了新的视角。
2025-07-29 11:53:41
1323
原创 顶会新宠!Gate+Attention创新思路发A会
性能提升:在Places2自然场景和CelebA-HQ人脸数据集上,与以往方法相比,该系统在自由形式掩码修复任务中取得了更高的质量和更低的误差(例如,平均ℓ1误差和ℓ2误差显著降低)。硬件效率提升:Griffin和Hawk在TPU-v3上的训练效率与Transformer相当,且在推理时具有更低的延迟和显著更高的吞吐量。门控卷积:提出了一种新的门控卷积机制,通过学习每个通道在每个空间位置的动态特征选择机制,解决了传统卷积将所有输入像素视为有效像素的问题。
2025-07-28 15:14:18
974
原创 PINN最近杀疯了,与LSTM完美融合!!
将两者结合,可以利用PINN的物理约束确保模型的预测与物理定律一致,同时借助LSTM的时间序列建模能力,捕捉动态系统的复杂时间依赖性。显式时域方法(ETDM):提出了一种基于ETDM的物理信息神经网络(PINN),称为E-PINN,用于非线性结构的动态响应预测。物理信息LSTM(LSTM-PINN):在LSTM网络中加入物理信息,通过损失函数中的物理约束提高模型对物理过程的预测能力。物理信息整合:通过在损失函数中加入物理信息,模型的泛化能力增强,即使在数据量较少的情况下也能有效学习物理过程。
2025-07-25 11:40:58
1878
原创 荣登Nature子刊!时间序列可解释性快速提升!
时间序列的可解释性是指在时间序列分析中,使模型的预测结果可靠、透明且易于理解的能力。它有助于增强用户对模型的信任,促进更明智的决策,并便于调试和风险管理。性能提升:T-KAN和MT-KAN在金融时间序列预测任务中显著优于传统方法,均方误差(MSE)和平均绝对误差(MAE)等指标均优于基线模型。可解释性增强:通过将多维时间序列转换为一维事件序列,模型能够直观地展示数据中的时空结构特征,提高了数据的可解释性。可解释性增强:T-KAN通过符号回归生成人类可读的模型,解释数据中的潜在模式,显著提升了模型的透明度。
2025-07-24 11:29:21
1084
原创 速度狂提80%!可变形卷积+注意力机制
接着,使用可变形卷积进行运动补偿,并生成预测特征。特征空间操作:提出了一种特征空间视频编码网络(FVC),通过在特征空间中执行所有主要操作(运动估计、运动压缩、运动补偿和残差压缩)来减少视频的空间和时间冗余。可变形卷积:使用可变形卷积对参考特征进行“变形”以更准确地预测当前帧的特征,并通过自编码器风格的网络压缩对应的偏移图,显著提高了运动补偿的精度。可变形自注意力机制:通过可变形自注意力机制,大幅降低了传统Transformer的复杂性,使其能够处理多尺度和高分辨率的特征图。
2025-07-23 11:34:00
938
原创 发文黑马:CNN+LSTM+Attention 轻松搞定1区TOP
例如,在80-100 cm深度的土壤湿度预测中,CLA模型的R²值达到0.9298,显著高于传统LSTM模型的0.7368和CNN-LSTM模型的0.8822。例如,CLA模型在40-60 cm深度的土壤湿度预测中,MAE值为0.0025,显著低于LSTM模型的0.0045和CNN-LSTM模型的0.0078。CNN-LSTM-Attention模型:结合卷积神经网络(CNN)、长短期记忆网络(LSTM)和注意力机制(ATT),构建了CNN-LSTM-Attention模型,用于RZSM的时空预测。
2025-07-22 11:16:13
1842
原创 Nature收割机!小样本学习又双叒叕突破了
泛化能力:在miniImageNet数据集上,RN在5-way 1-shot任务中达到了50.44%的准确率,比之前的最佳方法提高了2.02%。性能提升:在Omniglot数据集上,RN在5-way 1-shot任务中达到了99.6%的准确率,比之前的最佳方法提高了0.8%。零样本学习:在零样本学习任务中,RN在CUB数据集上达到了62.0%的准确率,比之前的最佳方法提高了3.3%。泛化能力:FSFP训练的模型在未见过的突变位置上表现出良好的泛化能力,提升了模型的实用性。
2025-07-21 15:45:59
1072
原创 CNN+LSTM完美融合,超绝创新点来袭!
混合架构的优势:通过结合CNN的空间特征提取能力和LSTM的时间序列处理能力,模型在垃圾分类任务中表现出色,达到了95.45%的高精度,显著优于现有的深度学习方法。CNN-LSTM架构:提出了一种结合卷积神经网络(CNN)和双向长短期记忆网络(LSTM)的模型,直接从棋局的走法和用时数据中估计棋手的等级分。用时数据的引入:引入用时数据作为特征,显著提高了模型的预测精度,MAE从239分降低到182分,提升了24%。优化算法的改进:采用Adam优化算法,模型的训练效率提高了30%,同时减少了模型的训练损失。
2025-07-18 11:01:14
1430
原创 Mamba今年杀疯了!完美融合UNet发1区!
参数量显著降低:与传统Vision Mamba UNet模型相比,参数量降低99.82%,与当前最轻量化的Vision Mamba UNet模型相比,参数量降低87.84%。性能保持竞争力:在三个公开的皮肤病变数据集上,UltraLight VM-UNet保持了与传统模型相当的分割性能,Dice相似系数(DSC)达到0.9091。并行视觉Mamba层(PVM层):提出了一种并行处理特征的方法,将特征分为多个子特征并分别通过Mamba处理,最后合并输出,以最低的计算复杂度实现卓越性能。
2025-07-17 11:50:10
1441
原创 超越传统!自适应特征融合改改直接发A会
性能提升:RT-DETR-R50在准确率上比DINO-Deformable-DETR-R50提升2.2% AP(53.1% vs 50.9%),速度提升约21倍(108 FPS vs 5 FPS)。实时性能:RT-DETR-R50在COCO val2017上达到53.1% AP,速度为108 FPS,显著优于YOLOv8-L(52.9% AP,52 FPS)。特征融合:通过特征融合技术,FFTAT在DomainNet数据集上平均准确率达到51.9%,显著优于基线模型(38.1%)。
2025-07-16 11:50:16
1209
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅