图解NumPy,这是理解数组最形象的一份教程了

基于人脸识别的驾驶员疲劳检测方法研究 摘 要交通安全问题愈发严重,疲劳驾驶已是造成交通事故的主要因素之一。为减少因疲劳驾驶造成的交通事故,本文设计了一种基于图像处理技术的疲劳驾驶监测系统,该系统结合了肤色模型、灰度积分投影技术以及PERCLOS方法,旨在通过实时视频图像分析准确检测驾驶员的疲劳状态。首先,系统通过肤色模型从图像中有效提取人脸区域,并在此基础上利用Haar级联分类器进行人脸检测,确保在人脸角度变化或部分遮挡的情况下依然能够实现高效识别。接着,灰度积分投影技术被应用于眼部定位,通过分析眼睛区域的灰度变化,精确确定眼睛的上下边界,从 阅读详情

选自Jay Alammar Blog

作者:Jay Alammar

机器之心编译

本文用可视化的方式介绍了 NumPy 的功能和使用示例。

NumPy 软件包是 Python 生态系统中数据分析、机器学习和科学计算的主力军。它极大地简化了向量和矩阵的操作处理。Python 的一些主要软件包(如 scikit-learn、SciPy、pandas 和 tensorflow)都以 NumPy 作为其架构的基础部分。除了能对数值数据进行切片(slice)和切块(dice)之外,使用 NumPy 还能为处理和调试上述库中的高级实例带来极大便利。

本文将介绍使用 NumPy 的一些主要方法,以及在将数据送入机器学习模型之前,它如何表示不同类型的数据(表格、图像、文本等)。

import numpy as np

创建数组

我们可以通过传递一个 python 列表并使用 np.array()来创建 NumPy 数组(极大可能是多维数组)。在本例中,python 创建的数组如下图右所示:

通常我们希望 NumPy 能初始化数组的值,为此 NumPy 提供了 ones()、zeros() 和 random.random() 等方法。我们只需传递希望 NumPy 生成的元素数量即可:

一旦创建了数组,我们就可以尽情对它们进行操作。

数组运算

让我们创建两个 NumPy 数组来展示数组运算功能。我们将下图两个数组称为 data 和 ones:

将它们按位置相加(即每行对应相加),直接输入 data + ones 即可:

当我开始学习这些工具时,我发现这样的抽象让我不必在循环中编写类似计算。此类抽象可以使我在更高层面上思考问题。

除了「加」,我们还可以进行如下操作:

通常情况下,我们希望数组和单个数字之间也可以进行运算操作(即向量和标量之间的运算)。比如说,我们的数组表示以英里为单位的距离,我们希望将其单位转换为千米。只需输入 data * 1.6 即可:

看到 NumPy 是如何理解这个运算的了吗?这个概念叫做广播机制(broadcasting),它非常有用。

索引

我们可以我们像对 python 列表进行切片一样,对 NumPy 数组进行任意的索引和切片:

聚合

NumPy 还提供聚合功能:

除了 min、max 和 sum 之外,你还可以使用 mean 得到平均值,使用 prod 得到所有元素的乘积,使用 std 得到标准差等等。

更多维度

上述的例子都在一个维度上处理向量。NumPy 之美的关键在于,它能够将上述所有方法应用到任意数量的维度。

创建矩阵

我们可以传递下列形状的 python 列表,使 NumPy 创建一个矩阵来表示它:

np.array([[1,2],[3,4]])

我们也可以使用上面提到的方法(ones()、zeros() 和 random.random()),只要写入一个描述我们创建的矩阵维数的元组即可:

矩阵运算

如果两个矩阵大小相同,我们可以使用算术运算符(+-*/)对矩阵进行加和乘。NumPy 将它们视为 position-wise 运算:

我们也可以对不同大小的两个矩阵执行此类算术运算,但前提是某一个维度为 1(如矩阵只有一列或一行),在这种情况下,NumPy 使用广播规则执行算术运算:

点乘

算术运算和矩阵运算的一个关键区别是矩阵乘法使用点乘。NumPy 为每个矩阵赋予 dot() 方法,我们可以用它与其他矩阵执行点乘操作:

我在上图的右下角添加了矩阵维数,来强调这两个矩阵的临近边必须有相同的维数。你可以把上述运算视为:

矩阵索引

当我们处理矩阵时,索引和切片操作变得更加有用:

矩阵聚合

我们可以像聚合向量一样聚合矩阵:

我们不仅可以聚合矩阵中的所有值,还可以使用 axis 参数执行跨行或跨列聚合:

转置和重塑

处理矩阵时的一个常见需求是旋转矩阵。当需要对两个矩阵执行点乘运算并对齐它们共享的维度时,通常需要进行转置。NumPy 数组有一个方便的方法 T 来求得矩阵转置:

在更高级的实例中,你可能需要变换特定矩阵的维度。在机器学习应用中,经常会这样:某个模型对输入形状的要求与你的数据集不同。在这些情况下,NumPy 的 reshape() 方法就可以发挥作用了。只需将矩阵所需的新维度赋值给它即可。可以为维度赋值-1,NumPy 可以根据你的矩阵推断出正确的维度:

再多维度

NumPy 可以在任意维度实现上述提到的所有内容。其中心数据结构被叫作 ndarray(N 维数组)不是没道理的。

在很多情况下,处理一个新的维度只需在 NumPy 函数的参数中添加一个逗号:

实际用法

以下是 NumPy 可实现的有用功能的实例演示。

公式

实现可用于矩阵和向量的数学公式是 NumPy 的关键用例。这就是 NumPy 是 python 社区宠儿的原因。例如均方差公式,它是监督机器学习模型处理回归问题的核心:

在 NumPy 中实现该公式很容易:

这样做的好处在于,NumPy 并不关心 predictions 和 labels 包含一个值还是一千个值(只要它们大小相同)。我们可以通过一个示例依次执行上面代码行中的四个操作:

预测和标签向量都包含三个值,也就是说 n 的值为 3。减法后,得到的值如下:

然后将向量平方得到:

现在对这些值求和:

得到的结果即为该预测的误差值和模型质量评分。

数据表示

考虑所有需要处理和构建模型所需的数据类型(电子表格、图像、音频等),其中很多都适合在 n 维数组中表示:

表格和电子表格

电子表格或值表是二维矩阵。电子表格中的每个工作表都可以是它自己的变量。python 中最流行的抽象是 pandas 数据帧,它实际上使用了 NumPy 并在其之上构建。

音频和时间序列

音频文件是样本的一维数组。每个样本都是一个数字,代表音频信号的一小部分。CD 质量的音频每秒包含 44,100 个样本,每个样本是-65535 到 65536 之间的整数。这意味着如果你有一个 10 秒的 CD 质量 WAVE 文件,你可以将它加载到长度为 10 * 44,100 = 441,000 的 NumPy 数组中。如果想要提取音频的第一秒,只需将文件加载到 audio 的 NumPy 数组中,然后获取 audio[:44100]。

以下是一段音频文件:

时间序列数据也是如此(如股票价格随时间变化)。

图像

图像是尺寸(高度 x 宽度)的像素矩阵。

如果图像是黑白(即灰度)的,则每个像素都可以用单个数字表示(通常在 0(黑色)和 255(白色)之间)。想要裁剪图像左上角 10 x 10 的像素吗?在 NumPy 写入

即可。

下图是一个图像文件的片段:

如果图像是彩色的,则每个像素由三个数字表示——红色、绿色和蓝色。在这种情况下,我们需要一个三维数组(因为每个单元格只能包含一个数字)。因此彩色图像由尺寸为(高 x 宽 x3)的 ndarray 表示:

语言

如果我们处理文本,情况就不同了。文本的数字表示需要一个构建词汇表的步骤(模型知道的唯一字清单)和嵌入步骤。让我们看看用数字表示以下文字的步骤:

模型需要先查看大量文本,再用数字表示这位诗人的话语。我们可以让它处理一个小数据集,并用它来构建一个词汇表(71,290 个单词):

这个句子可以被分成一个 token 数组(基于通用规则的单词或单词的一部分):

然后我们用词汇表中的 ID 替换每个单词:

这些 ID 仍然没有为模型提供太多信息价值。因此,在将这一组单词输入到模型之前,我们需要用嵌入替换 token/单词(在本例中为 50 维 word2vec 嵌入):

可以看到,该 NumPy 数组的维度为 [embedding_dimension x sequence_length]。出于性能原因,深度学习模型倾向于保留批大小的第一维(因为如果并行训练多个示例,模型训练速度会加快)。在这种情况下,reshape() 变得非常有用。如像 BERT 这样的模型期望的输入形式是:[batch_size,sequence_length,embedding_size]。

现在这是 numeric volume 形式,模型可以处理并执行相应操作。其他行虽然留空,但是它们会被填充其他示例以供模型训练(或预测)。

原文链接:https://jalammar.github.io/visual-numpy/

ComfyUI-Impact-Subpack插件安装避坑指南:为什么你的UltralyticsDetectorProvider节点还是找不到? 本文深入解析了ComfyUI-Impact-Subpack插件的安装与排障问题,特别是针对UltralyticsDetectorProvider节点缺失的常见问题提供了详细的解决方案。从底层机制到高阶应用,涵盖了手动安装、模型配置、性能优化等关键步骤,帮助用户彻底解决插件依赖关系断裂问题。 阅读详情

相关推荐

FIFO应用于UART串口(含代码)

FIFO(First in first out)即先入先出,可以把它理解成一个缓存器,对于收发两端速度不一致,位宽不一致的情况可以使用FIFO作为收发两端中间的“调节剂”使数据可以进行正常发送。

m0_58544042的博客 2754

图解 Numpy,原来数据操作这么简单!

作者:Jay Alammar来源:机器之心hi,大家好,我是行哥在Python数据分析领域,Numpy 这个库是少不了的,可是对于一些矩阵的操作,理解起来太抽象了。最近看到一篇文章,它以...

一行玩python 959

Ubuntu22.04安装ROS2 —— ROS2 humble 详细图文教程

本文详细介绍了如何在Ubuntu22.04(Jammy)系统下配置ROS2环境,安装RO2软件包,并验证安装成功。ROS2的版本是Humble Hawksbill。:ROS是一个开源的,提供硬件抽象、设备驱动、库、工具和通信机制,支持模块化开发与集成,广泛用于机器人控制和自动化应用。ROS2 相较于 ROS1 在架构设计、通信机制和平台支持等方面做出了改进。ROS1 采用集中式主节点(Master)进行节点间通信,存在单点故障风险,且实时性和跨平台支持较弱。

weixin_49649078的博客 8839

[python之数据分析] 基础篇1- Numpy,Scipy,Matplotlib 快速入门攻略

本文全部来自我(小麦)的《大数据公选》课程讲义,包括三篇python和Numpy等数据分析包的相关教程,excel和SPSS的数据分析教程等等,作者是小麦以及懿文同学,是原创资料。本来是课程内部资料,现在开源出来,仅供大家学习。如要转载,请联系我,并尊重版权。Python Data Analysis Fundamental TurtorialPython 基本语法和数据结构 已在另一篇文章介绍

苏菲兔子和魔法师小麦 4104

云端全自动AI漫剧生成工作流:从模型选型到完整实现

本文提出了一套云端全自动AI漫剧生成工作流解决方案,旨在解决传统漫剧制作效率低下的问题。该系统采用"编排引擎+模型矩阵"架构,通过集成大语言模型、图像生成、视频合成等技术,实现从剧本输入到成片输出的全流程自动化。 核心内容包括: 模型选型方案:剧本解析采用DeepSeek-V3/GPT-4o,图像生成使用DALL-E 3,视频合成选用Stable Video Diffusion,语音合成采用MiniMax TTS 系统架构设计:基于Celery分布式任务队列的编排层,分解任务至各功能模块

huanghm88的专栏 645

使用GitLab限制开发者使用CI/CD的权限,三种方案

使用三种方案来限制开发人员的CI/CD权限。

知无涯 5099

超详细的图解 Numpy,不收藏后悔!

一个 Numpy是关于机器学习,数据处理的Python基础库,了解 NumPy 的工作原理可以提高你的编码效率,可以让你的代码看上去更加简洁和优雅。NumPy 也可以GPU上运行代码而无需更改原始代码(或只做少量更改)。NumPy 的核心概念是 多维数组。它的美妙之处在于,无论数组有多少维,大多数操作看起来都是一样的。但是 1D 和 2D 的情况有点特殊。Numpy 数组与 Python 列表(list)粗看上去,NumPy 数组类似于 Python 列表。

weixin_42608414的博客 5257

Copilot在游戏开发中的应用:Unity脚本自动生成实践

2021年GitHub Copilot的发布,为代码自动生成带来了革命性突破。作为基于GPT模型训练的AI辅助编程工具,Copilot能根据注释、函数名、代码上下文,实时生成符合语法和逻辑的代码片段,甚至完整脚本。减少重复劳动:自动生成模板代码(如生命周期、结构),让你专注核心逻辑;降低API学习成本:对Unity特有的组件(RigidbodyAnimator)、类(),Copilot能生成符合最佳实践的调用代码;统一代码风格:通过团队共享提示词模板,让生成的代码符合项目规范;快速原型迭代。

AIGC应用创新大全的博客 1619

NumPy图解操作详解

NumPy图解操作详解

ytp552200ytp的博客 1080

同步调相机启动与并网控制技术方案

同步调相机起动与并网控制技术方案采用背靠背变流器系统,通过静止变频器(SFC)策略实现无原动机驱动的同步电机从静止到同步转速的平稳起动。方案详细阐述了硬件自检、模块初始化、转子位置检测等关键环节,重点解决启动转矩为零、冲击电流大等挑战。系统基于STM32或C2000系列控制器,包含网侧/机侧变流器、检测保护单元及通信接口,通过励磁脉冲和电压响应分析实现高精度转子初始定位,为后续并网提供必要条件。代码级实现涵盖了ADC自检、数字IO验证及通信端口测试等核心功能。

huanghm88的专栏 308

MIKE水动力笔记18_如何将dfsu流场模拟结果的数据导出成txt文件

MIKE的模拟结果dfsu文件的数据是可以导出的,导出格式为xyz,我们也可以将其改后缀改为txt文本格式,其中包含了某一时刻下所有网格坐标点的数据。

晏长街的博客 4410

添加/删除/替换numpy数组中某一列

用下标索引,用行向量代替即可 import numpy as np a = np.zeros((2,2), dtype=np.int) # 替换某列 a[::,0] = [1, 1] print("a:",a) #删除某列 b = np.delete(a,0,axis=1) print("b:",b)

qq_43430964的博客 1万+

【软件测试】- 公有云、私有云、混合云简介以及如何在公有云与私有云上分别搭建测试环境

公有云、私有云以及混合云是目前云计算领域的三种主要模式。它们之间的区别主要在于部署方式、数据访问和管理控制的不同。在阿里云或腾讯云上使用 Kubernetes 和 Docker 搭建测试环境可以提供高度的可伸缩性和灵活性。这样的环境非常适合于需要在多种配置和条件下进行测试的复杂应用。通过云服务提供的工具和服务,可以轻松管理和监控整个测试过程。在云服务上搭建测试环境涉及选择合适的云提供商、配置云资源、安装和设置所需软件等步骤。### 1. 选择云服务提供商。

weixin_46453070的博客 2345

图解 NumPy,这是理解数组最形象的一份教程了

(给Python开发者加星标,提升Python技能)转自:机器之心(ID:almosthuman2014)本文用可视化的方式介绍了 NumPy 的功能和使用示例。NumP...

Python开发者 1010

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

图解Numpy,这是理解数组最形象的一份教程了!

本文用可视化的方式介绍了 NumPy 的功能和使用示例。 NumPy 软件包是 Python 生态系统中数据分析、机器学习和科学计算的主力军。它极大地简化了向量和矩阵的操作处理。Python 的一些主要软件包(如 scikit-learn、SciPy、pandas 和 tensorflow)都以 NumPy 作为其架构的基础部分。除了能对数值数据进行切片(slice)和切块(dice)之外,使用 NumPy 还能为处理和调试上述库中的高级实例带来极大便利。 本文将介绍使用 NumPy 的一些主要方法,.

AI--小智 699

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

【图解 NumPy】最形象的教程

转自:机器之心(ID:almosthuman2014)本文用可视化的方式介绍了 NumPy 的功能和使用示例。NumPy 软件包是 Python 生态系统中数据分析、机器...

机器学习算法与Python学习 1928

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

上一篇: NumPy 1.20.0 版本发布,支持Python 3.7+
下一篇: 2840 页的计算机毕业论文,堪比教材,这位华人小哥的博士论文究竟写了啥?...
机器学习算法那些事
博客等级 码龄9年 1633粉丝 62原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值