用于神经网络的图像数据预处理(Image Data Pre-Processing for Neural Networks)【翻译】

视觉特征-自监督-对比学习:SimCLR(在潜空间用对比损失最大化同一样本经不同数据增强所得视图间的一致性来学习表示)【Loss:对比损失函数】【同批次非同源样本作为负样本】【2020-02】 Abstract摘要本文提出了SimCLR:一个用于视觉表征对比学习的简单框架。我们简化了近期提出的对比式自监督学习算法,无需专门的架构或记忆库。为了理解是什么使对比预测任务能够学习到有用的表征,我们系统地研究了该框架的主要组成部分。我们表明:(1)数据增强的组合在定义有效预测任务中起着关键作用;(2)在表征与对比损失之间引入可学习的非线性变换,可显著提升所学习表征的质量;(3)与监督学习相比,对比学习受益于更大的批量大小和更多的训练步骤。 阅读详情

用于神经网络的图像数据预处理

原文:Image Data Pre-Processing for Neural Networks
作者Nikhil B 发表于2017-9-10

深度学习在过去的几年里已经真正成为主流。深度学习使用具有很多隐藏层(当今最先进的神经网络包含几十个隐藏层)并且需要大量训练数据的神经网络。这些模型在视觉、语音、语言处理等感知任务中,对于获得洞察力和接近人类水平的准确性特别有效。这个理论和数学基础是几十年前建立的。主要有两种现象促成了机器学习的兴起:a)大量可用的多领域数据集/训练样本;b)实际计算能力的提高和高效并行硬件的兴起。

在这里插入图片描述

建立一个有效的神经网络模型需要仔细考虑网络结构和输入数据格式。本文讨论后者。最常见的图像数据输入参数是图像数量、图像高度、图像宽度、通道数和每个像素的级别(具体的数值)。图像数据通常有三个通道,分别对应红,绿,蓝(RGB)三种不同的颜色,每个像素的级别通常是[0,255]范围内。我们采用下面的具体描述的图像进行讲解:

  • 图像数量是100
  • 图像的宽和高都是100
  • 3个通道每个像素的级别在[0–255]范围内

让我们来看一个流行的数据集。自然场景下的标注人脸(Labeled Faces in the Wild)是一个人脸图像数据库,最初是为研究人脸识别问题而设计的。该数据集包含从网络上收集的13000多张人脸图像,每个人脸都标注了照片中人的名字。数据集图像需要转换为上面描述的格式。下载完图像数据后,请注意图像是按人名排列在单独的子文件夹中的。我们需要将所有照片放入一个公共目录。让我们把前100个图像复制到一个工作目录中。这些数据包含了自然场景下人的脸,这些人脸采用不同的灯光设置和旋转方式拍摄,各种方式拍摄的人脸似乎集中在这个数据集中,但是情况并非如此。

在将这些人脸图像用于任何深度学习项目之前,我们可能希望执行许多预处理步骤。下面的段落列出了一些最常见的图像预处理步骤。

**均匀纵横比:**第一步是确保图像具有相同的大小和纵横比。大多数神经网络模型假设一个正方形的输入图像,这意味着每一个图像都需要检查是否是正方形,并适当地裁剪。裁剪可以选择图像的方形部分,如图所示。修剪时,我们通常关心中间的部分。

在这里插入图片描述

回到我们的数据集,随机采样一些图像,我们会看到数据集中的每个图片的尺寸都是250 x 250像素,这确实简化了工作。

在这里插入图片描述

图像样本:250 x 250

**图像缩放:**一旦我们确保所有图像都是方形的(或者是某些预定的纵横比),就可以去适当地缩放每个图像。我们决定用100像素的宽度和高度的图像。我们需要将每个图像的宽度和高度缩放0.4倍(100/250)。有各种各样的向上和向下缩放技术,我们通常使用库函数来实现这一点。

输入数据的平均、标准偏差:有时查看通过在所有训练样本中获取的每个像素平均值而获得的“平均图像”是有用的。观察这一点可以让我们深入了解图像中的一些底层结构。例如,数据集前100个图像的平均图像显示在左下方。很明显,这有一张松散的人脸的印象,让我们得出这样的结论:人脸与中心部分对齐,大小相当。如果我们不希望输入的数据具有这种固有的结构,我们可以选择扰动图像来增加数据。所有图像的标准偏差显示在右侧。更高的方差值显示的更白,因此我们看到,与中心相比,边界处的图片变化很大。

在这里插入图片描述

输入数据描述的平均值(左)和标准偏差(右)的图像

**规范化输入图像:**数据规范化是确保每个输入参数(本例中为像素)具有相似数据分布的重要步骤。这使得神经网络在训练时可以更快地收敛。数据标准化是通过从每个像素中减去平均值,然后将结果除以标准偏差来完成的。这些数据的分布类似于以零为中心的高斯曲线。对于输入图像,我们需要像素数为正数,因此我们可以选择在范围[0,1]或[0,255]内缩放规格化数据。对于我们的数据集示例,下面的蒙太奇表示规范化的数据。

在这里插入图片描述

**降维:**我们可以选择将RGB三通道变为单个灰度通道。减少其它维度能使得神经网络的性能保持不变,或者使训练问题更容易处理时,通常需要考虑减少其他维度。

在这里插入图片描述

**数据扩充:**另一种常见的预处理技术涉及到用现有图像的扰动版本来扩充现有数据集。缩放、旋转和其他仿射变换是典型的操作方式,这样做是为了使神经网络暴露在各种各样的变化中。这使得神经网络识别数据集中不需要的特征的可能性降低。

**结论:**我们了解了如何为模型定义基本图像数据参数,并介绍了所需的基本格式化步骤。这些基本的预处理步骤应该可以帮助您建立和运行一个简单的神经网络模型。

VLA-2025-03:GR00T N1【骨架:Eagle-2;端到端双系统VLA:S2 VLM+S1 DiT+FM;数据:单/双臂+人形,机器人+人类+仿真+神经共592.9M帧/8375.7小时】 通用机器人需要多功能的躯体和智能的头脑。近年来,人形机器人的发展在构建人类世界中通用自主性的硬件平台方面展现出巨大潜力。一个基于海量多样化数据源训练的机器人基础模型,对于使机器人能够推理新情况、稳健应对现实世界的多变性以及快速学习新任务至关重要。为此,我们推出了GR00T N1,一个面向人形机器人的开放基础模型。GR00T N1是一个具有双系统架构的视觉‑语言‑动作(VLA)模型。视觉语言模块(系统2)通过视觉和语言指令来解读环境。随后的扩散Transformer模块(系统1)实时生成流畅的电机动作。 阅读详情

相关推荐

WAM-202601:LingBot-VA(用于机器人控制的因果世界建模)【自回归扩散框架:利用双流MoT架构将视频与动作统一到单个交错序列中(先预测视频再逆动力解动作)】【基于Wan2.2-5B】

Causal World Modeling for Robot Control用于机器人控制的因果世界建模摘要This work highlights that video world modeling, alongside vision-language pre-training, establishes a fresh and independent foundation for robot learning. Intuitively, video world models provide the ab

u013250861的博客 518

神经网络学习引入-图片预处理Preprocessing与损失函数

图片数据预处理 Image data preprocessing 样本:原始像素数据(随机选取于[0,255]) 在机器学习中:输入特征的规范化 (perform normalization of your input features) 在实际应用中:通过缩减每个特征的含义来中心化数据集具有重要意义 (It is important to center your data by subtract...

AG9GgG的博客 899

CV-骨架02:Swin Transformer V2: Scaling Up Capacity and Resolution【2021-11】

Ze Liu* Han Hu*† Yutong Lin Zhuliang Yao Zhenda Xie Yixuan Wei Jia Ning Yue Cao Zheng Zhang Li Dong Furu Wei Baining Guo Microsoft Research Asia{v-zeliu1,hanhu,t-yutonglin,t-zhuyao,t-zhxie,t-yixuanwei,v-jianing}@microsoft.com {yuecao,zhez,lidong1,fuwei,bai

u013250861的博客 80

tf.keras.preprocessing.image_dataset_from_directory

Image data preprocessing image_dataset_from_directory function # from tensorflow.keras.preprocessing import image_dataset_from_directory tf.keras.preprocessing.image_dataset_from_directory( directory, labels="inferred", label_mode="int",

自在独行的博客 1万+

矢量网络分析仪VNA的校准之SOLT方法

作者:杭州冥鸿电子科技有限公司 邮箱:huanglong@deepelec.com S参数的测量方法有两种,一种是基于扫频测量的原理(VNA),另外一种是基于快沿阶跃响应的原理(TDR)。 下图是VNA的原理框图,主要包括以下部分: (1)激励信号源:提供感兴趣的频率范围内的入射信号; (2)信号分离装置:含功分器和定向耦合器,分离出入射,反射和传输信号; (3)接收机:...

u010018619的博客 2万+

实战拆解:RAG vs Agent在金融风控中的性能对比

2024年上半年我帮某华东地区城商行做零售交易反欺诈系统升级时,技术团队曾发生过一次激烈争论:一派认为应该优先上RAG(检索增强生成)方案,成本低、落地快、合规性好;另一派坚持要上Agent(智能体)方案,推理能力强、能应对复杂新型欺诈。最终我们做了完整的AB测试,结论是两者没有绝对的优劣,只有场景适配的差异:RAG适合高并发、低时延的实时风控场景,Agent适合低并发、高准确率要求的事后核查/大额审批场景,两者结合的 hybrid 方案能覆盖95%以上的风控需求。本文我会结合真实项目的测试数据,从核心概念

AI天才研究院 251

tensorflow中Keras ---图像预处理----tf.keras.preprocessing.image.ImageDataGenerator 类

支持的方法有 "nearest", "bilinear", and "bicubic"。默认情况下,使用 "nearest"。一个生成(x, y) 元组的DataFrameIterator, 其中x是一个包含一批尺寸为 (batch_size, *target_size, channels)的图像样本的numpy数组,y 是对应的标签的 numpy 数组。class_mode: "categorical", "binary", "sparse", "input", "other" or None之一。

JEREMY的博客 1949

泛微ecology9二次开发-附件上传-安全实践

本文深入探讨了泛微ecology9二次开发中附件上传功能的安全实践。针对原生接口的安全机制,文章提出了同源部署与服务端代理转发两大核心策略,并提供了基于Vue3和Element Plus的完整前端实现代码,重点解决了会话验证、权限控制及文件关联等关键安全问题,确保二次开发应用能安全、稳定地与ecology9系统集成。

qsc9012345的博客 532

Tensorflow 中的tf.keras.preprocessing.image.ImageDataGenerator()和.flow()介绍

Tensorflow 中的tf.keras.preprocessing.image.ImageDataGenerator()和.flow()参数介绍

m0_57190374的博客 1166

链路聚合Eth-trunk以及华为交换机配置实例

链路聚合简介 以太网链路聚合Eth-Trunk简称链路聚合,它通过将多条以太网物理链路捆绑在一起成为一条逻辑链路,从而实现增加链路带宽的目的。同时,这些捆绑在一起的链路通过相互间的动态备份,可以有效地提高链路的可靠性。 目的: 随着网络规模不断扩大,用户对骨干链路的带宽和可靠性提出越来越高的要求。在传统技术中,常用更换高速率的接口板或更换支持高速率接口板的设备的方式来增加带宽,但这种方案需要付出高额的费用,而且不够灵活。 采用链路聚合技术可以在不进行硬件升级的条件下,通过将多个物理接口捆绑为一个逻辑接口

ChaseAug的博客 2万+

大学生智能车竞赛初次尝试经验分享--1(硬件绘制电路,pcb部分)

本人机械电子专业大二暑假参加全国大学生智能车竞赛,之前参加过一些其他类型的比赛有一点基础,由于之前疫情影响所以做智能车比赛断代了,没有学长带也没有思路,从一开始的一头雾水逐渐摸索出我感觉比较实用的经验。 一.首先是硬件的准备工作: 1.硬件部分与要自己设计需要的电路制成pcb。推荐使用Altium Designer20,AD比较常用所以有多实用的教学视频,另外需要自己了解布线规则,包括信号线,电源线常用的宽度 一些电源电路,驱动电路建议用multisim仿真,没有问题再进行制版 单片机有关的需要仿真

weixin_52679034的博客 9834

神经网络训练图片,有哪几种方法用来预处理图片,从而更好的训练

神经网络训练图片时,常用的预处理方法有以下几种: 归一化:将图片像素值缩放到某一区间,例如 $[0, 1]$ 或者 $[-1, 1]$。这样做可以让神经网络更加稳定,并且能够更快地收敛。 标准化:对于每个图片的像素值减去整个数据集的像素值的均值,再除以整个数据集的像素值的标准差。这种方法可以使得图片的像素值分布更加符合正态分布,并且可以加速模型的训练。 图片裁剪和缩放:对于较大的图片,可以通...

weixin_35752645的博客 1075

Agent 智能体学习指南:从入门到求职的完整路线

AI Agent 不是更长的 prompt,而是一类系统设计——模型在受控环境里观察状态、选择动作、调用工具、接收反馈。本文系统梳理 Agent 的 5 个核心概念、7 个关键模块(Goal/State/Context/Tools/Loop/Guardrails/Eval)、三条学习路线(工程落地/研究算法/求职作品)、框架选型策略(LangGraph/OpenAI Agents SDK/Pydantic AI 等场景推荐),以及可执行的 7 天最小项目计划(从概念到简历 bullet)。

program哲学 229

coremltools 快速上手:将 TensorFlow Keras 图像分类模型转换为 Core ML 格式

本文以官方 Getting Started 示例为主线,完整演示如何使用 coremltools 的统一转换 API(Unified Conversion API),把用 TensorFlow Keras 训练好的 MobileNetV2 图像分类模型转换为 Core ML 模型,并完成模型元数据设置、预测验证、保存加载以及在 Xcode 中的集成使用。读完本文,你将掌握 `ct.convert`

gitblog_00237的博客 217

一文吃透 SAP IDoc 状态码:从 TEDS1 到 WE02 排障,再到 ABAP 自动化监控

在 SAP 集成场景里,IDoc 往往是最常见、也最容易被低估的一条生命线:采购订单、发票、主数据、库存移动……只要系统之间要稳定地交换结构化业务数据,IDoc 就经常登场。真正让人头疼的,并不是 IDoc 本身,而是它在链路里到底走到了哪一步、卡在了哪里、该找谁背锅。这篇文章把常用的 IDoc 状态码按出站、入站拆开讲清楚,并且把每个状态对应的真实世界故障现象、排查入口、以及可以落地的 ABAP 监控代码串起来,让你看到状态码就能想到动作。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 405

13、核心网络模块:VyOS 设备配置实战

本文详细介绍了如何使用 Ansible 核心网络模块对 VyOS 虚拟设备进行自动化配置,涵盖环境搭建、变量设置、任务编写、playbook 运行及配置验证全过程。通过实际案例展示了 Ansible 在网络设备管理中的强大功能,包括多设备支持、模板化配置、备份回滚等优势,并提供了最佳实践建议与未来发展趋势分析,帮助读者提升网络运维效率。

linux6sysadmin的博客 114

在 ONNX 模型仓库中部署 CaffeNet:从 AlexNet 变体到 int8 量化推理实战指南

本篇指南以本仓库(A collection of pre-trained, state-of-the-art models in the ONNX format)中 [CaffeNet 模型文档](https://link.gitcode.com/i/90b635b3964270d65723620830324993) 为核心主体,系统讲解 CaffeNet 与 AlexNet 的关系、模型输入输出

gitblog_01063的博客 946

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

ViT:An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale

尽管 Transformer 架构已成为自然语言处理任务事实上的标准,但其在计算机视觉中的应用仍然有限。在视觉领域,注意力机制要么与卷积网络结合应用,要么用于替代卷积网络的某些组件,同时保留其整体结构。我们表明,这种对 CNN 的依赖并非必要,直接应用于图像块序列的纯 Transformer 在图像分类任务上也能表现出色。

u013250861的博客 79

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

focalnet_base_lrf.ms_in1k特征提取完全指南:解锁图像理解的深层能力

focalnet_base_lrf.ms_in1k是一款基于FocalNet架构的图像分类模型,在ImageNet-1k数据集上进行了预训练,能有效提取图像深层特征,为图像理解任务提供强大支持。 ## 模型核心能力解析 ### 模型基础参数 focalnet_base_lrf.ms_in1k作为专业的图像分类与特征提取骨干模型,具备以下关键参数: - **参数量**:88.7M,模型大小适中,

gitblog_00938的博客 657

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

High-Resolution Image Synthesis with Latent Diffusion Models 基于潜在扩散模型的高分辨率图像合成

Robin Rombach 1 * Andreas Blattmann1 * Dominik Lorenz 1 Patrick Esser ® Björn Ommer 1 1 Ludwig Maximilian University of Munich & IWR, Heidelberg University, Germany ° Runway ML慕尼黑路德维希-马克西米利安大学 & 德国海德堡大学 IWR ° Runway MLhttps://github.com/CompVis/latent-diff

u013250861的博客 138

Learning Latent Dynamics for Planning from Pixels 从像素中学习用于规划的潜在动态

Abstract摘要规划在已知环境动力学的控制任务中取得了巨大成功。为了在未知环境中利用规划,智能体需要从与世界的交互中学习动力学。然而,学习足够准确以用于规划的动力学模型一直是一项长期挑战,尤其是在基于图像的领域中。我们提出了 Deep Planning Network(PlaNet),这是一种纯基于模型的智能体,能够从图像中学习环境动力学,并通过潜在空间中的快速在线规划选择动作。为实现高性能,动力学模型必须能够准确预测未来多个时间步的奖励。

u013250861的博客 264

ESOD:高分辨率图像上的高效小目标检测

小目标检测

追赶时代的博客 498

High-Resolution Image Synthesis with Latent Diffusion Models # 基于潜在扩散模型的高分辨率图像合成

Robin Rombach 1 * Andreas Blattmann1 * Dominik Lorenz 1 Patrick Esser ® Björn Ommer 1 1 Ludwig Maximilian University of Munich & IWR, Heidelberg University, Germany ° Runway ML慕尼黑路德维希-马克西米利安大学 & 德国海德堡大学 IWR ° Runway MLhttps://github.com/CompVis/latent-diff

u013250861的博客 84

Python机器学习:从零基础到项目实战

当您翻开此书,您正踏入一场数据与智慧的修行。机器学习,并非冰冷的符码,而是机器模拟人类洞察世界的法门。本书将带您,以Python为舟,泛游于算法之海。我们不只传授“术”,更探求其后的“道”——从数据的生灭流转中观照规律,于模型的迭代演进里体悟得失。愿您合上书卷时,收获的不仅是驾驭数据的技能,更有一双洞悉复杂、化繁为简的“智慧之眼”。现在,让我们一同启程。

YunWisdom 968

专业 英语

计算机、数学、机械等专业的专业英语词汇

Edward2022的博客 2946

Transformers 生态项目全景:基于 Hugging Face Transformers 构建的 97 个开源项目精选导览

Transformers 远不止是一个拿来即用的预训练模型工具库,它同时扮演着"模型定义框架 + 模型中枢 + 社区生态"三重角色。本文以当前仓库根目录下的 [awesome-transformers.md](https://link.gitcode.com/i/d52bc0170ad359de2aaec7e1081d6fa6) 清单为主线,系统梳理基于 Transformers 构建的 97 个

gitblog_00370的博客 598
上一篇: 关于树的常见编程题
Subson
博客等级 码龄12年 31粉丝 21原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值