DW-numpy_索引、切片与迭代

从零手写GPT:用NumPy实现Transformer核心组件 语言模型的本质是基于上下文的概率化词预测,其技术根基在于矩阵运算、注意力机制与梯度优化。理解GPT需回归第一性原理——从Token Embedding的查表机制、Positional Encoding的正弦编码设计,到Multi-Head Self-Attention的多视角加权聚合,每一步都依赖清晰的张量形状推演与数值稳定性处理。这种底层实现不仅揭示了大模型‘如何思考’的直觉回路,更支撑模型调试、结构改进与教学迁移等工程实践。本文聚焦纯Python+NumPy手写路径,覆盖Embedding、位置编码、自 阅读详情

副本与视图

在 Numpy 中,返回结果是 副本 或者 视图。

  • 赋值运算:不会为数组和数组中的任何元素创建副本。(是同一个,故同时变化)

  • numpy.ndarray.copy() 函数创建一个副本。 对副本数据进行修改,不会影响到原始数据。

  • 数组切片操作返回的对象只是原数组的视图。

import numpy as np

x = np.array([[11, 12, 13, 14, 15],
              [16, 17, 18, 19, 20],
              [21, 22, 23, 24, 25],
              [26, 27, 28, 29, 30],
              [31, 32, 33, 34, 35]])
y = x
y[::2, :3:2] = -1
print(x)
# [[-1 12 -1 14 15]
#  [16 17 18 19 20]
#  [-1 22 -1 24 25]
#  [26 27 28 29 30]
#  [-1 32 -1 34 35]]
print(y)
# [[-1 12 -1 14 15]
#  [16 17 18 19 20]
#  [-1 22 -1 24 25]
#  [26 27 28 29 30]
#  [-1 32 -1 34 35]]

x = np.array([[11, 12, 13, 14, 15],
              [16, 17, 18, 19, 20],
              [21, 22, 23, 24, 25],
              [26, 27, 28, 29, 30],
              [31, 32, 33, 34, 35]])
y = x.copy()
y[::2, :3:2] = -1
print(x)
# [[11 12 13 14 15]
#  [16 17 18 19 20]
#  [21 22 23 24 25]
#  [26 27 28 29 30]
#  [31 32 33 34 35]]
print(y)
# [[-1 12 -1 14 15]
#  [16 17 18 19 20]
#  [-1 22 -1 24 25]
#  [26 27 28 29 30]
#  [-1 32 -1 34 35]]

索引与切片

数组索引机制指的是用方括号([])加序号的形式引用单个数组元素,它的用处很多,比如抽取元素,选取数组的几个元素,甚至为其赋一个新值。

切片索引:

  • 对 python 列表进行切片操作得到的数组是原数组的副本,而对 Numpy 数据进行切片操作得到的数组则是指向相同缓冲区的视图。
  • x[i];
    x[i][j]等价于 x[i,j])
  • x[ start:stop:step,start:stop:step ]切片索引,逗号前是行,后面是列;下表从0开始,省去表示默认从第0个数字开始;为左开右闭;-1表示最后一个元素。
#利用负数下标翻转数组
print(x[::-1])  # [8 7 6 5 4 3 2 1]

dots 索引

用...表示足够多的冒号来构建完整的索引列表。

比如,如果 x 是 5 维数组:

  • x[1,2,...] 等于 x[1,2,:,:,:]
  • x[...,3] 等于 x[:,:,:,:,3]
  • x[4,...,5,:] 等于 x[4,:,:,5,:]
import numpy as np
x = np.random.randint(1, 100, [2, 2, 3])
print(x)
# [[[ 5 64 75]
#   [57 27 31]]
# 
#  [[68 85  3]
#   [93 26 25]]]

print(x[1, ...])
# [[68 85  3]
#  [93 26 25]]

print(x[..., 2])
# [[75 31]
#  [ 3 25]]

整数数组索引

注意!

  • x[r, c]:r和c都是数组,表示行和列,表示的是对应坐标(r和c是一一对应)

  • x[r]:r若为高维数组,表示的是这个输出的数组形状,但是r仍然只表示行。

  • numpy. take(a, indices, axis=None, out=None, mode='raise') Take elements from an array along an axis. axis=0按行取

  • np.take(x, [r, c],axis=0/1) 存疑

  • 应注意:使用切片索引(视图),生成的数组视图将始终是原始数组的子数组,
    但是整数数组索引(副本),不是其子数组,是形成新的数组。

x = np.array([[11, 12, 13, 14, 15],
              [16, 17, 18, 19, 20],
              [21, 22, 23, 24, 25],
              [26, 27, 28, 29, 30],
              [31, 32, 33, 34, 35]])
r = [0, 1, 2]
c = [2, 3, 4]
y = x[r, c]
print(y)
# [13 19 25]
x = np.array([[11, 12, 13, 14, 15],
              [16, 17, 18, 19, 20],
              [21, 22, 23, 24, 25],
              [26, 27, 28, 29, 30],
              [31, 32, 33, 34, 35]])

r = np.array([[0, 1], [3, 4]])
print(x[r])
#等价于print(np.take(x, r, axis=0))
# [[[11 12 13 14 15]
#   [16 17 18 19 20]]
#
#  [[26 27 28 29 30]
#   [31 32 33 34 35]]]

# 获取了 5X5 数组中的四个角的元素。
# 行索引是 [0,0] 和 [4,4],而列索引是 [0,4] 和 [0,4]。
r = np.array([[0, 0], [4, 4]])
c = np.array([[0, 4], [4, 0]])
y = x[r, c]
print(y)
# [[11 15]
#  [35 31]]
#????????????????????????????????????好奇怪啊 咋来的
x = np.array([[11, 12, 13, 14, 15],
              [16, 17, 18, 19, 20],
              [21, 22, 23, 24, 25],
              [26, 27, 28, 29, 30],
              [31, 32, 33, 34, 35]])
r = [0, 1, 2]
c = [2, 3, 4]
y = np.take(x, [r, c])
print(y)
# [[11 12 13]
#  [13 14 15]]
#副本和视图问题:
#切片索引与整数数组索引
import numpy as np

a=np.array([[1,2],[3,4],[5,6]])
b=a[0:1,0:1]
b[0,0]=2
print(a[0,0]==b)
#[[True]]

b=a[0,0]
b=2
print(a[0,0]==b)
#False

布尔索引:

通过一个布尔数组来索引目标数组。

  • x[x>5]:取出大于5的数(x>5的返回布尔数组,x[布尔数组]将布尔数组中的True的位置的值返回
  • logical_not(布尔数组):非运算,True改为False
  • np.logical_and(express1, express2) #逻辑与:同时成立
x = np.array([np.nan, 1, 2, np.nan, 3, 4, 5])
y = np.logical_not(np.isnan(x))
print(x[y])
# [1. 2. 3. 4. 5.]
import matplotlib.pyplot as plt

x = np.linspace(0, 2 * np.pi, 50)
y = np.sin(x)  #都是数组
# print(len(x))  # 50
plt.plot(x, y)

mask = y >= 0 #返回一个布尔数组
'''
[ True  True  True  True  True  True  True  True  True  True  True  True
  True  True  True  True  True  True  True  True  True  True  True  True
  True False False False False False False False False False False False
 False False False False False False False False False False False False
 False False]
'''
# print(len(x[mask]))  #x[mask]取出布尔数组中为True的值  25

plt.plot(x[mask], y[mask], 'bo')

mask = np.logical_and(y >= 0, x <= np.pi / 2) #逻辑与:同时成立
'''
[ True  True  True  True  True  True  True  True  True  True  True  True
  True False False False False False False False False False False False
 False False False False False False False False False False False False
 False False False False False False False False False False False False
 False False]
'''

plt.plot(x[mask], y[mask], 'go')
plt.show()

在这里插入图片描述

数组迭代

除了for循环,Numpy 还提供另外一种更为优雅的遍历方法。

  • apply_along_axis(func1d, axis, arr) Apply a function to 1-D slices along the given axis.
  • axis=0沿着列计算,axis=1沿着行计算
x = np.array([[11, 12, 13, 14, 15],
              [16, 17, 18, 19, 20],
              [21, 22, 23, 24, 25],
              [26, 27, 28, 29, 30],
              [31, 32, 33, 34, 35]])

y = np.apply_along_axis(np.sum, 0, x) #沿着列计算
print(y)  # [105 110 115 120 125]


def my_func(x):
    return (x[0] + x[-1]) * 0.5

y = np.apply_along_axis(my_func, 1, x)
print(y)  #[13. 18. 23. 28. 33.]

交换(反转)二维数组中的两列(行)

#索引和切片
arr = np.arange(9).reshape(3, 3)
x = arr[:, [2, 1, 0]]
print(x)
# [[2 1 0]
#  [5 4 3]
#  [8 7 6]]

x = arr[::-1, :]
print(x)
# [[6 7 8]
#  [3 4 5]
#  [0 1 2]]
从零实现字符级RNN文本生成器:理解语言建模本质 语言生成本质上是序列数据的条件概率建模,其核心在于如何让模型学习字符间的时序依赖与上下文约束。RNN作为经典循环神经网络,通过隐藏状态在时间步上的传递实现记忆功能,而字符级建模则以单个符号为最小单元,规避词表爆炸与OOV问题,显著提升泛化鲁棒性。这种低粒度、高透明的设计使梯度流动、状态衰减、数值稳定性等底层机制可观察、可调试、可教学。在莎士比亚文本等高信息密度语料上,字符级RNN不仅能捕捉韵律结构与古英语缩写模式,更成为理解LSTM/GRU演进动因的基准参照。本文聚焦from scratch实现,覆盖Emb 阅读详情

相关推荐

纯NumPy手写CNN:MNIST识别与反向传播原理详解

卷积神经网络(CNN)是深度学习中最核心的模型之一,广泛应用于图像识别、目标检测等计算机视觉任务。理解CNN的底层原理,不仅有助于算法面试,更能帮助工程师定位框架性能瓶颈。本文从零开始,用纯NumPy实现完整的卷积神经网络,涵盖im2col矩阵加速、卷积与池化层的前向传播、反向传播梯度计算,以及MNIST手写数字识别的完整训练流程。通过手写代码,可以清晰掌握卷积核参数流动、梯度反传机制及He初始化、dropout等关键技巧,彻底摆脱黑盒困惑。适合算法工程师与深度学习初学者深入理解CNN的数学本质与工程实现。

weixin_29039773的博客 321

手写神经网络:从零实现反向传播与梯度计算

神经网络中的反向传播是深度学习的基石机制,其本质是链式法则在计算图上的系统性应用。理解它不仅需要掌握数学原理,更需通过数值验证、显式变量流和手动梯度推导来建立工程直觉。手写神经网络作为一种教学级实现方式,剥离了PyTorch/TensorFlow等框架的自动求导黑箱,强制暴露权重更新、激活函数梯度(如ReLU与sigmoid的数值稳定性差异)、损失函数合并优化(如softmax-cross-entropy联合梯度)等关键细节。该实践特别适用于调试梯度消失、初始化敏感性、L2正则梯度系数错误等典型问题,是构建

weixin_30859423的博客 407

量子光学SDE求解工具QotoolboxV015_:噪声建模与关联函数加速

量子光学中的随机微分方程(SDE)建模需处理非交换噪声、Stratonovich校正及多阶关联统计等核心挑战。传统通用求解器(如SciPy)缺乏量子算符非对易性支持,而QuTiP在中等规模系统中面临内存与速度瓶颈。QotoolboxV015_聚焦量子开放系统数值模拟,通过内置Ito/Stratonovich双模式SDE求解、波函数稀疏蒙特卡洛演化(solvemc)及流式多阶关联提取(mccorr),显著提升含噪声量子演化路径的计算效率与精度。其技术价值体现在噪声建模粒度可控、内存占用降低至O(d)量级、g²

weixin_32050773的博客 77

numpy.tile()如何使用?

如何使用numpy.tile()函数呢?这个函数的作用是沿着指定的轴复制Numpy数组,看看几个例子就会了: import numpy as np a = np.array([2, 3, 4]) b = np.tile(a, (2, 1)) print(b) 输出: [[2 3 4] [2 3 4]] v = np.tile(a, (3, 1)) print(v) 输出: [[2 3 4...

wxl 438

ANTsPy医学图像配准实战:三阶段流程与跨模态避坑指南

医学图像配准是放射科、放疗与AI辅助诊断中的基础技术环节,核心在于实现解剖结构连续性约束下的像素级空间对齐。其原理依赖刚性、仿射与非线性形变的分阶段优化,关键技术价值体现在提升多期影像追踪、术前术后量化及跨设备数据融合的可靠性。典型应用场景包括脑部MRI配准、肝脏CT动态评估、DWI与T1加权图像联合分析等。面对低场强设备兼容性差、模态差异大、ITK内存溢出等现实问题,ANTsPy凭借稳定接口与完整ITK后端成为临床部署首选。本文聚焦ANTsPy实操链路,覆盖DICOM标准化、N4偏置校正、CycleGAN

weixin_34214500的博客 380

避坑指南:RK3588上编译EtherCAT 1.6时遇到的权限问题和模块安装错误

本文详细解析了在RK3588平台上编译EtherCAT 1.6时常见的权限问题和模块安装错误,提供了两种实战解决方案和嵌入式开发的通用权限管理策略。通过优化内核配置和编译参数,显著提升实时性能,帮助开发者高效完成EtherCAT主站部署。

weixin_33724046的博客 455

numpy 数组抽取_提取numpy数组中的特定列

This is an easy question but say I have an MxN matrix. All I want to do is extract specific columns and store them in another numpy array but I get invalid syntax errors.Here is the code:extractedData...

weixin_42526249的博客 3073

【多媒体交互】Unity+普通摄像头实现UI事件分析

利用摄像头捕捉用户的手势或动作,结合坐标映射与事件系统触发UI交互

qq_38350004的博客 1329

numpy 数组抽取_如何根据内容从numpy数组中提取行?

As title, for example, I have an 2d numpy array, like the one below,[[33, 21, 1],[33, 21, 2],[32, 22, 0],[33, 21, 3],[34, 34, 1]]and I want to extract these rows orderly based on the content in the fi...

weixin_34382844的博客 581

300m半径无人机单兵侦测设备技术详解

300m半径无人机单兵侦测设备凭借其卓越的侦测性能、高效的识别能力、便捷的告警方式以及广泛的应用场景,成为现代军事、安保及应急救援领域的重要装备。300m半径无人机单兵侦测设备,融合了最新的无人机技术、高精度传感技术与实时数据处理技术,为单兵作战、巡逻及侦察任务提供了前所未有的视野与效率。该设备通过无人机搭载的高性能侦测模块,能够在复杂环境中实现300米范围内的精准侦测,大幅提升单兵的战场感知能力和决策效率。设备为被动式探测设备,确保安静安全运行,不暴露目标 设备耗电功率小,可长时间在野外使用。

专注多旋翼、复合翼无人机技术研究,从事低空经济行业。 1122

OpenHarmony-AI调研

基于OpenHarmony-5.0.0版本以及laval社区等网络资料调研当前OH上的AI发展情况。

qqq1112345的博客 1371

反向遍历array

#include #include using namespace std; void main(){ vector array; array.push_back(1); array.push_back(2); array.push_back(3

zhuimengzh的专栏 5886

原理和代码解读:用Diffusion Models高清图像修复(Image Inpainting)

在最近的Diffusion Models应用中,Image Inpainting+ControlNet/Lora等工作在模特衣服生成、家居场景重建等场景中得到了广泛的应用。这篇博客主要介绍Diffusion Models如何在修复高清图像的。

沉迷单车的追风少年 2499

用NumPy从零实现神经网络:掌握梯度流与维度对齐的核心原理

神经网络本质是张量运算与链式求导的系统工程,其核心在于前向传播的矩阵线性变换、激活函数的非线性映射,以及反向传播中梯度沿计算图的精确回传。理解这一过程的关键,在于掌握维度对齐规则与数值稳定性机制——前者决定梯度能否正确累积,后者保障训练不因log(0)或exp溢出而崩溃。NumPy实现强制暴露shape匹配、广播行为、手动微分等底层细节,使开发者直面sigmoid饱和、ReLU导数定义、softmax数值保护等真实挑战。这种面向数组编程的硬核实践,将抽象的‘自动微分’转化为可调试、可验证的矩阵操作流,为后续

aoe41606的博客 309

DDD系列 - 第6讲 仓库Repository - Mybatis篇

书接上回,之前通过一个关于拆解、微服务、面向对象的故事,向大家介绍了如何从微服务、面向对象一步步演进到DDD的,整个演进过程如下图:其中在领域层,我们定义了富血模型的领域模型,包括聚合、聚合根、实体、值对象等。聚合在代码层面中的表现形式即是一个包Package,起到了边界的作用,聚合内的对象间高内聚,而聚合间低耦合。聚合中放着实体、值对象、仓库等,实体相较于值对象的一个典型区别就是实体存在唯一标识,并且可通过该唯一标识查询到该实体并对其进行相关操作,值对象不存在唯一标识且通常作为实体。

罗小爬的技术宝书 1789

Aduino 通过I2C接口读取MPU6050模块数据

Aduino ESP9266通过I2C接口读取MPU6050模块数据 MPU6050模块 原理图 所需库:Adafruit_MPU6050 Adafruit_BusIO Adafruit Unified Sensor 接线示意图 ESP8266---MPU6050 VCC -- 3.3v GND -- GND D2 -- SDA D1 -- SCL 示例程序代码 #include <Adafruit_MPU6050.h> #include <Adafruit

perseverance51博客 621

手写AI工程:从零用Python和NumPy实现反向传播与Transformer

深度学习的实际工程能力往往体现在对底层原理的掌握上,而非仅仅调用现成框架。理解反向传播、自注意力等核心算法的数据流与梯度流,是构建可靠AI系统的关键。通过纯Python与NumPy从零搭建训练管线,能够建立完整的心智模型,有效排查梯度异常、显存溢出等深水区问题。这种实践方式适用于小型文本生成、分类模型等场景,可验证从数据管道到训练循环的全流程设计。掌握从算子实现到系统集成的完整路径,能提升模型调优与框架迁移的判断力。本文以AI工程从零实现为切入点,梳理核心组件逻辑、数值稳定性技巧及工程化策略,为深入理解深度

weixin_33309048的博客 219

33、AI赋能5G/6G通信:LDPC码解码与强化学习技术解析

本文探讨了基于AI和强化学习的LDPC码技术在5G/6G通信中的应用。包括LAMS解码器、神经MS解码器、盲识别方法、统一极性-LDPC解码器、NNMS和SNNMS解码器、N-2D-NMS解码器、神经分层MS解码器、MAB-NS方案以及强化学习与MCTS结合的技术。这些技术在提升解码性能、降低计算复杂度和增强系统适应性方面表现出色,为未来通信系统的发展提供了强有力的支持。

lambda的博客 247

Python 零基础学习路线

Python 是一门优雅、强大且易于入门的编程语言。从 Web 开发到数据分析,从人工智能到自动化运维,Python 几乎可以应用于任何领域。希望这份学习路线能够帮助你系统地掌握 Python 编程,在 4-6 个月内从零基础成长为能够独立完成项目的开发者。

qq_35300162的博客 1130

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

神经网络概念解码:从黑箱到可理解、可调试、可迁移的AI建模能力

神经网络不是数学公式的堆砌,而是物理硬件、人类认知与演化逻辑共同塑造的复杂系统。理解其本质需超越反向传播推导和API调用,深入信号在GPU中的真实流动、大脑对注意力的天然建模机制,以及Dropout、BatchNorm等技术在历史演进中的真实动因。这种‘概念优先’的思维范式,将激活函数、损失函数、优化器转化为可测量(如梯度稳定性窗口、业务风险映射、有效学习率)、可验证(梯度流完整性测试、概念漂移监测)、可操作(概念切片调试工作流)的工程要素。它面向已具备代码实践但遭遇建模瓶颈的工程师,目标是构建一套扎根于硬

weixin_34049948的博客 344

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

把 App 读到字节级:AI 逆向工具 rea 完整指南

rea 是面向 AI 的逆向工程工具箱:把任务交给编程助手,它接上 Ghidra、Hopper 等引擎,能把一个 App 读到字节级,再交回带出处的结果。官方 README 公布的当前星数是 400,000。 [![rea 逆向工程分析界面,Hopper 内运行 rea 分析桥接](https://raw.gitcode.com/GitHub_Trending/rea2/rea/raw/55b6

gitblog_00649的博客 235

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

扩散模型与随机微分方程:生成式AI的时间倒流原理

扩散模型是当前主流生成式AI的数学根基,其本质是通过前向加噪与反向去噪构建数据分布的学习范式;随机微分方程(SDE)则为这一过程提供连续时间域下的严格动力学描述——将图像生成建模为受控的朗之万演化路径。该框架不仅解释了DDPM、DDIM、DPM-Solver等采样器的性能差异,更支撑着ControlNet、IP-Adapter等条件控制技术的稳定性。理解SDE中的漂移项与扩散项,是掌握噪声调度、时间嵌入、得分函数估计等核心工程实践的前提。本文深入剖析从离散马尔可夫链到连续SDE的升维逻辑,揭示‘逆转时间’背

weixin_30859423的博客 523

手写反向传播:从链式法则到可调试计算图的实战

反向传播是深度学习的数学基石,本质是链式法则在计算图上的工程实现。理解其原理需穿透自动求导封装,直面梯度如何逐层传递、衰减与累积。手写神经网络强制显式构建前向路径与反向依赖,暴露权重初始化、激活函数导数、数值稳定性等关键细节,形成对微分路径的‘肌肉记忆’。该过程不仅强化梯度验证、ReLU零点处理、Softmax防溢出等工程能力,更支撑模型调试、面试应答与教学设计等真实场景。本文以四层全连接网络为载体,聚焦可验证、可调试、可归因的手写实践。

425

PyTorch深度学习入门:从张量、自动求导到神经网络模块实战

深度学习框架是现代人工智能应用开发的基石,其核心在于高效处理多维数据与自动化模型训练。PyTorch作为主流框架之一,以其动态计算图和直观的编程接口著称。其技术价值在于显著降低了深度学习模型的实现与调试门槛,通过自动求导机制自动计算梯度,极大简化了反向传播过程。在应用场景上,PyTorch广泛支持计算机视觉、自然语言处理等领域的模型构建与训练。本文聚焦于PyTorch的三大核心基础:张量作为数据载体,自动求导作为训练引擎,以及nn.Module作为模型构建蓝图,并通过实战串联,演示完整的训练循环流程,帮助读

weixin_33782386的博客 419

从零搭建AI工程体系:手写数据管道与训练循环实战

在AI工程领域,理解模型训练的核心原理比直接调用API更为关键。从数据加载、前向计算到反向传播,每个环节都涉及矩阵运算与梯度更新等基础技术。通过从零实现这些流程,开发者能深入掌握损失函数计算、参数优化及数值稳定性处理,从而在工程实践中快速定位问题并优化模型性能。无论是计算机视觉还是自然语言处理任务,这种底层能力都能显著提升技术价值,帮助你在实际项目中构建更可靠的AI系统。

weixin_29032489的博客 221
上一篇: DW-Numpy_数据类型和数组重建
下一篇: DW_numpy-数组操作
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值