最新张量补全论文收集【8篇】

张量(四):张量补全(tensor completion) 现实情况下,往往由于采集数据工具(如采集交通数据的传感器)的故障以及其他异常情况导致数据中往往存在部分缺失值,对这些缺失值的修补称之为“补全”,张量领域的缺失值修复即张量补全。张量补全是根据已有数据对缺失值的影响和低秩假设实现缺失值补全,主要分为两类方法: 一种是基于张量补全中给定的秩和更新因子 一种是直接最小化张量秩并更新低秩张量 ... 阅读详情
AI摘要

本文综述了近期在张量补全领域的多项技术进展,涵盖了利用张量子空间先验增强张量补全的核范数最小化、基于可学习空间光谱变换的张量核范数多维视觉数据恢复等多个方面。这些方法针对图像补全、视频恢复等问题,通过引入新的优化准则和分解方式,提高了补全质量和效率。

目录

1、利用张量子空间先验:增强张量补全的核范数最小化和

2、基于可学习空间光谱变换的张量核范数多维视觉数据恢复

3、用于图像补全的增强型低秩和稀疏 Tucker 分解

4、多模态核心张量分解及其在低秩张量补全中的应用

5、 低秩张量环的噪声张量补全

6、 视觉数据鲁棒张量补全的粗到精两阶段方法

7、 张量-序列格式下三阶张量补全的秩估计

8、具有缺失条目的平滑非负张量因子分解的新惩罚准则


1、利用张量子空间先验:增强张量补全的核范数最小化和

Ge, L., Jiang, X., Chen, L., Liu, X., & Haardt, M. (2024). Leveraging Tensor Subspace Prior: Enhanced Sum of Nuclear Norm Minimization for Tensor Completion. In ICASSP 2024 - 2024 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP) (pp. 7655-7659). Seoul, Korea, Republic of. https://doi.org/10.1109/ICASSP48485.2024.10447654.

摘要:张量补全在信号处理、计算机视觉和生物医学工程中引起了越来越多的关注。利用核范数最小化,张量补全问题可以转化为凸规划,并具有矩阵补全的性质。低秩性质已被广泛应用于张量/矩阵补全。然而,先验子空间信息也可以被利用,但在现有的公式中被忽略,并没有充分发挥其作用。在本文中,我们提出了一个新的框架利用张量子空间先验核范数(SNN)最小化和,它支持一系列张量分解。利用自先验(SP)/非自先验(NSP)的知识,进一步设计一种基于交替方向乘子法(ADMM)的高效算法,可以提高张量补全的性能。大量的数值实验验证了该方法的优越性。

Tucker、TT、TR和FCTN分解的张量网络表示

2、基于可学习空间光谱变换的张量核范数多维视觉数据恢复

Liu, S., Leng, J., Zhao, X.-L., Zeng, H., Wang, Y., & Yang, J.-H. (2024). Learnable Spatial-Spectral Transform-Based Tensor Nuclear Norm for Multi-Dimensional Visual Data Recovery. IEEE Transactions on Circuits and Systems for Video Technology, 34(5), 3633-3646. https://doi.org/10.1109/TCSVT.2023.3316279.

摘要:近年来,基于变换的张量核范数(TNN)方法作为一种强大的多维视觉数据(彩色图像、视频和多光谱图像等)恢复工具受到越来越多的关注。特别是基于冗余变换的TNN获得了满意的恢复效果,其中沿谱模式的冗余变换可以显著增强张量的低秩性。但是,由于冗余变换导致的计算开销较大。本文提出了一种可学习的基于空间-光谱变换的多维视觉数据恢复TNN模型,该模型不仅具有较好的低秩能力,而且可以设计伴随的快速算法。更具体地说,我们首先通过沿空间模式的可学习半正交变换将大尺度原始张量投影到小尺度本征张量。其中,半正交变换作为关键的构建块,可以提高空间低秩性,求解小尺度问题,为设计快速算法铺平道路。其次,为了进一步提高低秩性,我们对小尺度本征张量进行沿谱模式的可学习冗余变换。为了解决所提出的模型,我们采用了一种有效的基于邻域交替最小化的算法,该算法具有理论的收敛性保证。在真实世界数据(彩色图像、视频和多光谱图像)上的大量实验结果表明,所提出的方法在评估指标和运行时间方面优于最先进的对比方法。

DTNN和LS2T2NN的框架

 (a)沿空间模态对Xt进行可学习的半正交变换,得到小尺度张量et。(b)利用可学习的冗余变换,沿谱模式对E - t进行谱编码。(c)对Zt的每个额片进行低秩表示操作。(d)利用可学习的冗余变换,沿谱模式对Zt+1进行谱解码。(e)利用可学习的半正交变换,沿空间模式对et +1进行空间解码。

3、用于图像补全的增强型低秩和稀疏 Tucker 分解

Gong, W., Huang, Z., & Yan, L. (2024). Enhanced Low-Rank and Sparse Tucker Decomposition For Image Completion. In ICASSP 2024 - 2024 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP) (pp. 2425-2429). Seoul, Korea, Republic of. https://doi.org/10.1109/ICASSP48485.2024.10448445.

摘要:低秩张量测量的最新进展解决了张量补全的挑战,特别是在图像补全(IC)任务中。然而,目前的低秩通常是基于展开矩阵的秩和。此外,它忽略了局部相似度或对图像数据进行了过度平滑正则化,这在高级损坏恢复中可能是不可靠的。本文提出了一种新的基于塔克的模型来考虑成像中的全局和局部信息。其中,利用加权因子矩阵秩和核心张量稀疏度对全局低秩进行编码,利用图正则化对局部相似度进行表征。本文提出了一种易于求解子问题的线性化交替方向法(LADM)。大量的实验证明了我们的建议的准确性,即使在极端情况下,如99%的缺失场景。

一些现有的基于塔克的方法利用不同的先验
E-LRSTD模型的视觉显示

4、多模态核心张量分解及其在低秩张量补全中的应用

 Zeng, H., Xue, J., Luong, H. Q., & Philips, W. (2023). Multimodal Core Tensor Factorization and its Applications to Low-Rank Tensor Completion. IEEE Transactions on Multimedia, 25, 7010-7024. https://doi.org/10.1109/TMM.2022.3216746.

摘要:低秩张量补全在计算机视觉和机器学习中有着广泛的应用。本文提出了一种新的多模态核心张量分解(MCTF)方法,该方法结合了张量低秩测度及其较好的非凸松弛形式(NC-MCTF)。所提出的模型对Tucker和T-SVD提供的一般张量的低秩洞察进行编码,因此有望同时在多个方向上对光谱低秩进行建模,并基于少量观测条目准确地恢复本征低秩结构的数据。在此基础上,研究了MCTF和NC-MCTF正则化最小化问题,设计了一种有效的块连续上界最小化(BSUM)算法。从理论上证明了所提模型生成的迭代收敛于坐标极小集。这个高效的求解器可以将MCTF扩展到各种任务,如张量补全。包括高光谱图像、视频和MRI完成的一系列实验证实了该方法的优越性能。

Y:原始视频张量Suzie,共150帧,每帧的空间大小为144 × 176。(a)为Gn的n型奇异值曲线。(b) MCTF沿其三个模态分解得到的因子张量Gn和因子矩阵Xn。(c)因子矩阵Xn的奇异值曲线。
(a) 200*200*80的真实HSI;(b)沿三个张量模展开的矩阵奇异值曲线。(c)视频“Suzie”数据集TSVD分解(TNN)张量补全性能。当观测值稀疏时,预测精度严重退化。
三维张量的MCTF张量分解示意图,在所有方向上同时鼓励低秩结构
所提出的基于MCTF的低秩度量的说明,它将底层张量建模为张量和矩阵的三种低秩组合的混合物
两段由TMac, TNN和NCMCTF恢复的视频“Suzie”。第一行采样率为20%,第二行采样率为5%
提出的张量低秩测度的可视化显示

5、 低秩张量环的噪声张量补全

Qiu, Y., Zhou, G., Zhao, Q., & Xie, S. (2024). Noisy Tensor Completion via Low-Rank Tensor Ring. IEEE Transactions on Neural Networks and Learning Systems, 35(1), 1127-1141. https://doi.org/10.1109/TNNLS.2022.3181378

摘要:张量补全是不完整数据分析的基本工具,其目标是从部分观测中预测缺失的条目。然而,现有的方法往往会明确或隐含地假设观测条目是无噪声的,从而为准确恢复缺失条目提供理论上的保证,这在实践中具有很大的局限性。

为了弥补这一缺陷,本文提出了一种新的噪声张量补全模型,弥补了现有研究在处理高阶和噪声观测退化方面的不足。具体而言,采用张量环核范数(TRNN)和最小二乘估计量分别对底层张量和观测项进行正则化。此外,给出了估计误差的非渐近上界来描述所提估计器的统计性能。为了解决具有收敛保证的优化问题,提出了两种有效的算法,其中一种算法专门针对大规模张量的优化问题,在异构张量分解框架中,将原始张量的TRNN的最小化等价地替换为更小的TRNN的最小化。在合成数据和实际数据上的实验结果表明,与现有的张量补全模型相比,该模型在恢复有噪声的不完全张量数据方面是有效的。

TR分解和不同展开矩阵的说明。(a) TR分解的图形表示;(b)在一个八阶张量T R3×3×3×3×3×3×3×3上不同展开矩阵的比较,其中展开矩阵的秩分别与其Tucker、TT和TR秩相关
在四种视频序列上进行视频补全的性能比较:RE, PSNR和运行时间

6、 视觉数据鲁棒张量补全的粗到精两阶段方法

He, Y., & Atia, G. K. (2024). Coarse to Fine Two-Stage Approach to Robust Tensor Completion of Visual Data. IEEE Transactions on Cybernetics, 54(1), 136-149. https://doi.org/10.1109/TCYB.2022.3198932

摘要:张量补全是从部分观察到的数据中估计高阶数据的缺失值的问题。由于普遍存在的异常值导致的数据损坏对传统的张量补全算法提出了重大挑战,这促使了鲁棒算法的发展,以减轻异常值的影响。然而,现有的鲁棒方法大多假设异常值是稀疏的,而这在实践中可能并不成立。在本文中,我们开发了一种两阶段的鲁棒张量补全方法,以应对具有大量粗糙污染的视觉数据的张量补全问题。提出了一种新的从粗到细的框架,该框架使用全局粗略补全结果来指导局部补丁的细化过程。为了有效减轻大量异常值对张量恢复的影响,我们开发了一种基于M估计的新鲁棒张量环恢复方法,该方法可以自适应地识别异常值并在优化中减轻其负面影响。实验结果表明,所提出的方法在张量补全方面的性能优于最新的鲁棒算法。

两阶段粗到精的鲁棒张量补全框架。在粗糙阶段(蓝色区域),对整个图像应用鲁棒张量补全算法。在精细阶段(黄色区域),对于分割图像中的每个patch,在全局补全结果的指导下,对patch抖动得到的对应patch张量进行局部patch细化。

7、 张量-序列格式下三阶张量补全的秩估计

Vermeylen, C., Olikier, G., Absil, P.-A., & Van Barel, M. (2023). Rank Estimation for Third-Order Tensor Completion in the Tensor-Train Format. In 2023 31st European Signal Processing Conference (EUSIPCO) (pp. 965-969). Helsinki, Finland. https://doi.org/10.23919/EUSIPCO58844.2023.10289827

摘要:对于有界张量列秩的三阶张量变化张量补全问题,提出了一种求秩上界的充分值的数值方法。该方法的灵感来自于Kutschan(2018)导出的切锥参数化。给出了一个相关的低秩张量逼近问题上界的充分性证明,并定义了一个估计秩,将结果推广到低秩张量补全问题。在合成数据上的实验表明,该方法具有较好的鲁棒性,如对数据噪声的抑制能力。

8、具有缺失条目的平滑非负张量因子分解的新惩罚准则

Durand, A., Roueff, F., Jicquel, J.-M., & Paul, N. (2024). New Penalized Criteria for Smooth Non-Negative Tensor Factorization With Missing Entries. IEEE Transactions on Signal Processing, 72, 2233-2243. https://doi.org/10.1109/TSP.2024.3392357

摘要:张量分解模型在化学计量学、心理计量学、计算机视觉、通信网络等领域有着广泛的应用。现实生活中的数据收集经常会出现错误,导致数据丢失。在这里,我们的重点是理解这个问题应该如何处理非负张量分解。我们研究了在缺少某些项的情况下用于非负张量分解的几个准则。特别地,我们展示了平滑惩罚如何补偿缺失值的存在,以确保最优的存在。这导致我们提出了新的准则与有效的数值优化算法。数值实验证明了我们的观点。

SSIM随α的演化。行表示三个图像,列表示掩码的类型

浅析张量分解(Tensor Decomposition) 一般一维数组,我们称之为向量(vector),二维数组,我们称之为矩阵(matrix);三维数组以及多位数组,我们称之为张量(tensor)。 在介绍张量分解前,我们先看看矩阵分解相关知识概念。一、基本概念矩阵补全(Matrix Completion)目的是为了估计矩阵中缺失的部分(不可观察的部分),可以看做是用矩阵X近似矩阵M,然后用X中的元素作为矩阵M中不可观察部分的元素的估计。矩 阅读详情

相关推荐

多模态融合创新方法汇总:ICLR2024论文筛选与源码复现指南

多模态融合作为连接视觉、语言、音频等异构信息的关键技术,正从简单的特征拼接走向语义级对齐与统一生成。其核心原理在于通过对比学习、交叉注意力或离散化映射,让不同模态在共享表示空间内建立对应关系,从而提升模型的理解与生成能力。这一技术在图文检索、视频理解、智能助手等场景中具有重要价值,但实际落地常受模态缺失、数据噪声和训练成本制约。针对这些挑战,ICLR2024的多项工作围绕跨模态对齐、扩散生成框架和鲁棒性优化提出了创新解法,并陆续开源源码。本文基于对这些论文的筛选、研读与复现实践,梳理了重点方向、源码阅读顺序

weixin_33895657的博客 380

张量学习:张量补全(tensor completion)

目录 一、什么是张量(Tensor)? 二、张量补全(tensor completion) 1 基于张量分解的方法 1.1 基于CP分解 1.2 基于Tucker分解 1.3 基于张量链分解 1.4 基于张量环分解 1.5 基于t-SVD分解 2 秩最小化模型 2.1 Tucker秩最小化模型 2.2 张量链秩最小化模型 2.3 管秩最小化模型 一、什么是张量(Tensor)? 张量这个词英文叫Tensor。很多人有可能觉得比较陌生,但相信大部分人都听说过Tensor...

SmartLab307的博客 7721

OpenCoder:首个完全透明化开源的大型语言模型,提供了模型权重和推理代码,包括可复现的训练数据等

OpenCoder 是一个由墨尔本大学、复旦大学等高校研究人员联合推出的开源代码大型语言模型(LLM),旨在提升开源代码 LLM 的性能,推动代码 AI 研究的透明化和可重复性。

士多啤梨先生の博客 1219

基于张量补全的交通数据复原文献汇总(最新)

由于传感器故障和通信故障等因素导致的交通数据缺失严重制约了ITS的发展与应用。如何准确、高效地恢复缺失数据已成为ITS的一个关键问题。近年来,LRTC(低秩张量补全)的方法已被广泛应用于交通数据补全。本文将介绍几篇最新的关于交通数据补全的文献。欢迎批评指正!

SmartLab307的博客 2804

【信息科学与工程学】【通信工程】第八十六篇 通信网络设备及通信网络组网的所有学科知识01

编号001类型网络虚拟化与覆盖技术网络领域数据中心网络子领域大二层网络 / 网络虚拟化核心数学方程式/算法模型核心算法:VXLAN封装与解封装。关键在于24位VNI(虚拟网络标识符)到物理网络的三层IP地址的映射。封装:收到原始以太帧后,为其添加 VXLAN 头部(含 VNI)、外层 UDP 头(目的端口 4789)、外层 IP 头(源 IP 为本地 VTEP IP,目的 IP 为对端 VTEP IP)以及外层 MAC 头。解封装:对端 收到报文后,剥离外层头部,根据内层帧的目的 MAC 和 VNI 进行二

weixin_49199313的博客 836

【信息科学与工程学】【数据科学】第一百八十八篇 数据处理方法列表02

编号类型领域数据处理方法适用的数据类型缺陷与优势应用场景关联知识和标准和法律法规1001物理世界数据处理线性代数广义逆矩阵(Moore-Penrose伪逆)在超定线性方程组求解中的应用——当物理实验中获得的观测方程个数多于未知数时(例如通过多个传感器测量同一个物理量的不同线性组合),需要寻找最小二乘意义下的最佳解。该方法通过奇异值分解(SVD)计算伪逆,即 A+=VΣ+UT,其中 Σ+ 是将奇异值的倒数取零(小于阈值的奇异值置零)。超定线性方程组 Ax=b,其中 A 为 m×n 矩阵且 m>n,b 为观测向

weixin_49199313的博客 324

【张量】张量的运算、分解、补全算法及其应用

内容概要:这篇文章探讨了张量的运算、分解、补全算法及其在不同领域的应用。张量是多维数组的数学表示,广泛应用于数据分析、信号处理、图像处理等领域。文章首先介绍了张量的基本概念和表示方法,包括张量的秩、形状和元素等。然后详细讨论了张量的运算,包括张量的加法、乘法和数乘运算。接着介绍了张量的分解方法,包括CP分解、Tucker分解等,以及张量补全算法,如张量低秩补全和张量插值算法。最后,文章通过实际案例说明了张量在数据挖掘、推荐系统、图像处理等领域的应用场景和效果。

2665000101@qq.com 5312

张量补全.rar_TENSOR COMPLETION_tpf_图像补全_张量补全_补全

张量补全程序应用与图像处理与高维信号的处理

Fast Thick Cloud Removal for Multi-Temporal Remote SensingImagery via Representation Coefficient论文翻译

例如,Liu 等人[16,17]引入了核范数的和(SNN)用于一般的张量补全问题,后来在多时相图像厚云去除中得到了广泛应用。受[33]的启发,Zheng等人[34]引入了一种新颖的分解框架,称为空间-光谱-时间(SST)连接张量网络分解,有效地探索了多时相图像中的丰富SST关系。在多时相厚云去除的背景下,给定具有 t 个时间戳的 h × w 像素的 c 通道图像 Y ∈ ℝ^(h×w×c×t),Y 被视为部分观察的数据,其中被厚云遮挡的像素是缺失的。在这里,表示系数有效捕捉了原始张量数据的视觉上下文。

qq_69854365的博客 753

一种基于张量的交通数据补全方法

一种基于张量的交通数据补全方法

HALCON深度学习模型部署新选择:一份详细的OpenVINO 2021.4 LTS集成与配置避坑指南

本文详细介绍了如何将HALCON深度学习模型与OpenVINO 2021.4 LTS集成,提供环境配置、硬件加速优化及故障排除的实用指南。特别针对Intel独立显卡的AI加速器接口进行优化,帮助机器视觉工程师提升AI推理效率,适用于工业检测等高要求场景。

weixin_42531779的博客 238

LiDAR场景补全:实时自适应3D感知与传感器融合实践

3D感知是自动驾驶与机器人环境理解的核心,其关键在于从稀疏传感器数据中重建完整的三维场景。这一过程通常涉及点云处理、深度学习和几何推理等技术原理,旨在解决因遮挡和传感器限制导致的信息缺失问题,从而提升系统对环境的整体认知精度与鲁棒性。其技术价值在于为下游的定位、规划与决策模块提供更可靠、更稠密的环境表示。在自动驾驶、机器人导航等应用场景中,实时且能适应不同传感器与环境的补全算法至关重要。本文聚焦于LiDAR场景补全技术,深入探讨了如何利用稀疏卷积网络等高效架构实现实时推理,并通过领域自适应、多任务学习等策略

weixin_30444105的博客 626

手把手教你用Docker快速部署开源MES系统(附避坑指南)

本文提供了一份详细的实战指南,手把手教你使用Docker容器化技术快速部署开源MES系统。内容涵盖从环境准备、项目选型、数据库配置到应用服务器优化、前端部署及生产环境监控的全流程,并附有避坑指南,旨在帮助中小制造企业IT人员和开发者低成本、高效率地构建智能制造解决方案。

f0g1h2的博客 1059

Django-CRM数据分析指南:销售漏斗与收入汇总等4大报表教你洞察业务

Django-CRM 是一款开源的 CRM 与任务管理软件,内置的 **Analytics(数据分析)模块** 专为管理者设计,提供销售漏斗、收入汇总等 8 类可视化报表,帮助你快速洞察销售转化、收入趋势与业务瓶颈,做出数据驱动的决策。📊 本指南将带新手在 10 分钟内读懂 Django-CRM 数据分析中最实用的 4 大报表。 ## Django-CRM 数据分析模块概览:8大报表一次看懂

gitblog_00663的博客 428

版图学习汇总十一(DRC、LVS注意事项)

esd。

weixin_56071389的博客 2262

攻防世界-Reverse-Game

攻防世界,game,逆向

wuh2333的博客 775

2024年AI落地十大工程级论文实战指南

大模型与AI技术正从学术前沿加速走向工业现场,但‘可复现性’和‘硬件亲和力’成为横亘在实验室与产线之间的核心鸿沟。本文聚焦AI工程化落地的关键路径:解析轻量化知识蒸馏、FlashAttention-3硬件感知优化、Chain-of-Verification事实校验等真实可用的技术原理,强调其在低资源医疗影像、边缘工业质检、实时客服等场景中的模块化集成能力与显存/延迟实测表现。不谈SOTA排名,只讲哪些代码能今天clone、哪些组件可即插即用、哪些思路能直接迁移进你手头的项目——让算法工程师少踩坑,让CTO敢

cunbei2644的博客 423

具身智能的边缘计算核心构成方案

摘要: 具身智能(Embodied Intelligence)依赖物理实体与环境交互,而边缘计算(Edge Computing)通过本地化数据处理降低延迟、提升实时性。两者结合的核心方案包含五层架构:传感器层采集环境数据,边缘处理单元执行本地计算,通信模块实现低延迟传输,决策引擎运行轻量AI模型,执行器接口转化动作为物理操作。该方案以“边缘优先”为原则,满足毫秒级响应(如延迟<50ms),同时优化能效(功耗降低30%)和隐私保护。适用于机器人、自动驾驶等场景,通过分层闭环设计确保在资源受限环境中的可靠

老郑的博客 810

51c深度学习~合集8

方法的完整数学描述略显复杂,如果只是想了解主要思想,可以只看上面 PatchMix的流程图即可(其实只是公式多,每个公式也不复杂,后续有机会做个演示动画,帮助大家理解。这个方法也可以用简单的 Mask 方法实现,但是本方法在大规模图像处理上效率是最高的),对该工作感兴趣的同行可以看一下,我尽量写得清楚一些。结合 PatMix 的流程图,主要过程如下:由于混合图像和混合图像之间,重叠比例的不同,mix-to-mix label 中每一项的权重分数是不同的,根据上图,可以得到权重系数可以表示为。

whaosoft~aiotの开发板商城 2960

基于PlatformIO与CMSIS的STM32库函数开发实战:从环境搭建到外设驱动

本文详细介绍了基于PlatformIO与CMSIS的STM32库函数开发实战,从环境搭建到外设驱动实现。通过对比传统IDE,PlatformIO结合CMSIS框架在跨平台开发、代码可移植性和调试体验上更具优势。文章包含PlatformIO.ini配置详解、GPIO/USART驱动开发实例及常见问题解决方案,帮助开发者高效完成STM32项目开发。

weixin_29190169的博客 421

STM32实战开发(121):基于STM32的智能电导率检测系统设计与实现

STM32系列是由意法半导体(STMicroelectronics)推出的32位微控制器。STM32系列基于ARM Cortex-M处理器架构,具有高性能、低功耗、丰富的外设接口和强大的开发支持库。STM32的低功耗特性使其在嵌入式系统中非常受欢迎,特别是在便携式设备和传感器网络中。

2201_76125393的博客 1041

AI4EDA / AI4Design 完整研究报告:全球论文、项目、机构与产业路线

AI4EDA 与 AI4Design 的核心变化,不是“让大模型写 Verilog”这么简单,而是把芯片工程中的规格、代码、脚本、日志、波形、STA report、formal collateral、layout image、PPA 指标、制造计算等对象统一纳入可学习、可检索、可验证、可迭代的闭环。NVIDIA 的论文谱系清晰呈现了这条路径:先建立可执行评测,再做领域模型和数据工程,然后进入工具反馈、多智能体、长上下文、verifier-guided skill evolution。

weixin_41468466的博客 927

大疆前端开发面试题及参考答案(4万字长文)

在前端项目中,难点和性能优化的挑战无处不在。比如在处理复杂交互界面时,实现流畅的动画效果和实时反馈就是一大难点。当界面中有大量元素需要同时进行交互和动态更新,像电商平台的商品筛选和排序功能,不仅要保证操作的即时响应,还要确保界面在各种设备和网络环境下的稳定性,这就需要对事件处理、DOM 操作和数据更新机制有深入理解。在性能优化方面,首屏加载速度是常见的难点。当页面包含大量图片、脚本和样式文件时,如何合理地进行资源压缩、合并与缓存,以减少加载时间,是需要精心考虑的。

大模型大数据攻城狮的专栏 1155

AI-PyTorch(一)基础代码实操和自动求导

本文介绍了基于Anaconda、VS Code与PyTorch的深度学习环境搭建流程,重点推荐使用Python 3.12+及PyTorch 2.5.1/2.6.0版本,并详细说明了虚拟环境创建、VSC插件配置及GPU/CPU版本安装方法。随后系统讲解了PyTorch张量的基本操作,包括张量创建、类型与设备管理、广播机制、索引与修改、向量矩阵运算等核心功能。文章还深入解析了自动求导原理与实现,结合梯度下降训练流程,展示了PyTorch在神经网络参数优化中的关键作用。最后对比主流深度学习框架(如TensorFl

heni6560的博客 234

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex&trade;-M4F 内核的信息,请参见《Cortex&trade;-M4F 技术参考手册》。

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

OpenCV 新版 4.5.1 发布!

点击上方“3D视觉工坊”,选择“星标”干货第一时间送达编辑丨3D视觉工坊发布亮点:OpenCV Github 项目终于突破50000 stars!新的里程碑~这次发布的特性包括:集成更多...

3D视觉工坊 1761

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

GPT-4稀疏激活原理:2%参数如何驱动1.8万亿模型高效推理

稀疏激活(Sparse Activation)是大语言模型突破算力瓶颈的核心范式,其本质是在推理时动态选择部分专家(Experts)参与计算,而非加载全部参数。该机制依托门控网络(Gating Network)实现条件路由,结合负载均衡、专家正交化与通信优化等关键技术,显著降低显存占用、能耗与首字延迟。相比传统稠密模型,稀疏架构在保持输出质量前提下,可实现推理成本非线性下降,已广泛应用于MoE(Mixture of Experts)模型如Qwen2-MoE、GPT-4等。对开发者而言,评估重点正从‘总参数量

cm333666的博客 373

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

上一篇: CVPR2024论文盘点(10篇):包括多模态大模型,目标检测,图像分割
下一篇: 2024国内热门大语言模型在科研方面的应用
山科智能信息处理实验室
博客等级 码龄6年 808粉丝 73原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值