【Pytorch】einsum

最新推荐文章于 2025-06-11 14:06:54 发布
原创 最新推荐文章于 2025-06-11 14:06:54 发布 · 420 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#python #numpy #深度学习 #人工智能 #pytorch

这篇PyTorch学习笔记介绍了爱因斯坦简记法，这是一种用于向量、矩阵和张量运算的求和简记方式。通过例子展示了如何使用einsum进行内积和矩阵乘法的计算，揭示了它在统一表示多种张量运算中的作用。在numpy和PyTorch中，einsum函数遵循相同的语义。

本文为 Pytorch 学习笔记，讲解爱因斯坦简记法。欢迎在评论区与我讨论👏

爱因斯坦简记法

是爱因斯坦提出的对向量、矩阵、张量求和运算的简记法。

被省略的部分是求和符号和求和号的下标。

省略规则：默认成对出现的下标为求和下标。

举例

  1. 用 x i , y i x_i,y_i xi​,yi​ 简化表示内积 < x , y > <x,y> <x,y>：
    x i y i : = ∑ i x i y i = o x_iy_i:=\sum_ix_iy_i=o xi​yi​:=i∑​xi​yi​=o
    其中 o o o 为输出。

  2. 用

最低0.47元/天 解锁文章
pytorch的einsum
real_ilin的博客
04-17 814
# -*- coding: utf-8 -*- import torch # 转置 a = torch.arange(6).reshape(2, 3) print('a:{}'.format(a)) b = torch.einsum('ij->ji', [a]) print(b.size()) print(b) # 求和 b = torch.einsum('ij->', [a]) ...
pytorch einsum 矩阵乘 浅显易懂解释
蓝羽飞鸟的博客
02-22 1958
einsum用于矩阵乘法 直接上例子吧 比如 'bhqd, bhkd -> bhqk' 虽然是4维，但是前两维是不变的，先不看，只看后2维，qd, kd -> qk 这是两个矩阵相乘，两个矩阵的shape分别为A=qxd, B=kxd, 得到的结果形状是C =qxk 根据矩阵乘法，我们知道(qxd) x (dxk)结果的形状为qxk， 也就是说上面相当于是AxBT=C 验证一下 energy = torch.einsum('bhqd, bhkd -> bhqk', queries, ke
pytorch中的einsum函数
weixin_44394368的博客
07-21 2555
einsum函数 einsum函数在文档中的解释为： 即，该函数提供了一种使用爱因斯坦求和约定来计算多线性表达式的方法（即乘积和） 爱因斯坦求和约定（Einstein summation convention） 关于爱因斯坦求和约定的详细运算过程参考知乎大佬的回答：https://zhuanlan.zhihu.com/p/46006162以及B站up的视频：https://www.bilibili.com/video/BV1ot411V71V？from=search&seid=9196910873
Pytorch中的einsum
y473459100的博客
03-31 3082
本文主要介绍如何使用Pytorch中的爱因斯坦求和（einsum），掌握einsum的基本用法。 einsum的安装 在安装pytorch的虚拟环境下输入以下命令： pip install opt_einsum 爱因斯坦求和约定 在数学中，爱因斯坦求和约定是一种标记法，也称为Einstein Summation Convention，在处理关于坐标的方程式时十分有效。简单来说，爱因斯坦求和就是简化掉求和式中的求和符号,这样就会使公式更加简洁，如 三条基本规则 eins...
pytorch einsum, numpy einsum
bagba的知识分享库
04-19 629
什么是einsum? 爱因斯坦求和约定： https://zhuanlan.zhihu.com/p/101157166 https://en.wikipedia.org/wiki/Einstein_notation 为什么用? 简洁, 强大 具体例子 pytorch和numpy一样的，这里以pytorch为例. 矩阵乘矩阵, C = A x B eg1. (ij, jk -> ik), 实际上就是 [C]ik=∑j[A]ij×[B]jk [C]_{ik} = \sum_{j} [A]_{ij} \t
【Pytorch】科研代码技巧—Einsum爱因斯坦求和约定
炼丹笔记
09-22 2390
不知大家在看论文代码的时候是否会常常看见 torch.einsum()，这玩意儿看起来是真的抽象，但是深入了解后发现它原来这么好用。
pytorch einsum
07-27
PyTorch中的`torch.einsum`函数是一个用于执行张量运算的强大工具。它可以根据指定的公式对输入张量进行操作，并生成输出张量。 引用\[1\]中提供了一些常见的用法示例。例如，可以使用`torch.einsum`计算矩阵的行和...
pytorch中einsum用法总结
weixin_48018951的博客
02-22 1303
pytorch中enisum用法总结。爱因斯坦求和约定（einsum）提供了一套既简洁又优雅的规则，可实现包括但不限于：向量内积，向量外积，矩阵乘法，转置和张量收缩（tensor contraction）等张量操作，熟练运用 einsum 可以很方便的实现复杂的张量操作，而且不容易出错。
【PyTorch函数解析】einsum的用法示例
cjy_colorful0806的博客
06-25 1414
einsum 是一个非常强大的函数，用于执行张量（Tensor）运算。它的名称来源于爱因斯坦求和约定（Einstein summation convention），在PyTorch中，einsum 可以方便地进行多维数组的操作和计算。在Transfomer中，einsum用的非常多，比如使用 einsum 实现自注意力机制中注意力权重的获取，也就是Q和K的内积：Q（Query）：形状为 (batch_size, seq_len, d_k)
torch.einsum用法详解
热门推荐
bj_zhb的博客
03-20 1万+
是PyTorch中的一个函数，用于执行爱因斯坦求和约定（Einstein summation）运算。它提供了一种灵活而强大的方式来执行多维张量的操作和变换。其中，equation是一个字符串，用于指定爱因斯坦求和约定的运算方式，operands是一个或多个输入张量。在equation中，你可以使用大写字母表示张量的维度标识符，使用小写字母表示对应维度的长度。通过指定输入张量和输出张量之间的维度关系，你可以定义所需的运算操作。下面是一个简单的例子，展示了如何使用# 两个向量的点积。
pytorch中einsum详解
欢迎来到道的世界
12-20 5058
引言  在线性代数里，经常会遇到各种计算操作符号，比如矩阵的点积，外积，HHH积，KKK积，转置等。爱因斯坦求和约定提供了一套简单优雅的规则可以实现以上操作，目的是省略掉求和公式中的求和号“+”。 定义（爱因斯坦求和约定）：如果两个相同的指标出现在指标符号公式的同一项中，则表示对该指标遍历整个取值范围求和。 爱因斯坦求和约定具体的规则可以归结为如下几条 在同一项中，如果同一指标成对出现，就表示遍历其取值范围求和 公式中成对出现的指标叫做哑指标亦或哑标，表示哑标的小写字母可以用另一个小写字母替换，并且
Pytorch中, torch.einsum
lemonade_117的博客
05-02 1065
https://blog.youkuaiyun.com/a2806005024/article/details/96462827 3）Torch矩阵乘法。 print(a_tensor) tensor([[11, 12, 13, 14], [21, 22, 23, 24], [31, 32, 33, 34], [41, 42, 43, 44]]) ...
Pytorch~einsum
whaosoft143ai的博客
05-03 267
本文将带你感受einsum的“万能”，作者通过提供从基础到高级的einsum使用范例，展示了它是怎么做到既简洁又优雅地实现多种张量操作，并轻易解决维度匹配问题。whaosoft aiot http://143ai.com einsum基础范例 einsum这个函数的精髓实际上是第一条：用元素计算公式来表达张量运算。 而绝大部分张量运算都可以用元素计算公式很方便地来表达，这也是它为什么会那么神通广大。
PYTORCH torch.einsum 函数
zl_gao的搬砖记录
09-10 2199
以爱因斯坦求和的形式任意定义想要进行的矩阵乘法的操作，可以内部指定输出转置，功能多样，形式灵活。 #theta_phi: nxtxg #g: nxcxg output = torch.einsum('ntg, ncg->nct', theta_phi, g) #output: nxcxt
PyTorch 中torch.einsum函数的使用详解和工程应用示例
最新发布
qq_36812406的博客
06-11 1010
操作einsum表达说明图传播（AX）基础图邻接传播批量传播批次图传播权重传播AX @ Wor加入特征变换功能示例公式向量点积'i,i->'矩阵乘法外积'i,j->ij'转置'ij->ji''bi,bi->b'
Pytorch - einsum爱因斯坦求和约定标记法
发呆的比目鱼的博客
12-05 814
Pytorch - einsum爱因斯坦求和约定标记法
Einsum: numpy,pytorch and Tensorflow
weixin_42890793的博客
07-04 442
EINSUM IS ALL YOU NEED 如果你和我一样，你会发现很难记住 PyTorch/TensorFlow 中用于计算点积、外积、转置和矩阵向量或矩阵矩阵乘法的所有不同函数的名称和签名。 Einsum 表示法是表达所有这些以及对张量的复杂操作的一种优雅方式，本质上是使用特定于领域的语言。 除了不必记住或定期查找特定库函数之外，这还有其他好处。 一旦你理解并使用了 einsum，你将能够更快地编写更简洁高效的代码。 当不使用 einsum 时，很容易引入不必要的张量整形和转置，以及可以省略的中间张量
einsum pytorch和numpy
lbj23hao1的博客
11-22 1120
np.einsum和torch.einsum均使用一致的签名einsum(equation, operands) 其中equation是表示爱因斯坦求和约定字符串，而operands则是张量序列（numpy和tensorflow中是变长参数列表，而在pytorch中是列表）cj=∑i∑kAikBkj写成equation字符串就是ik,kj -> j。注意这里(i, j, k)的命名是任意的，但需要一致。 PyTorch和TensorFlow像numpy支持einsum的好处之一是eins
PyTorch之爱因斯坦求和约定
画心
08-30 3172
PyTorch之爱因斯坦求和约定 文章目录PyTorch之爱因斯坦求和约定关于`einsum`维度记忆的小技巧 网上关于这个函数：torch.einsum的介绍已经很多了，这里列出我重点看过的一篇文章。 einsum满足你一切需要：深度学习中的爱因斯坦求和约定 这篇文章写的非常棒，很详细。 这里写个简单的例子，对于论文A Gift from Knowledge Distillation: Fa...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值