GPU基本常识一

最新推荐文章于 2025-06-09 17:56:15 发布
最新推荐文章于 2025-06-09 17:56:15 发布
阅读量2.4k 收藏 6
点赞数 2
CC 4.0 BY-SA版权
分类专栏： Arm/Ubuntu
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/abedg126/article/details/79669406

GPU: Graphic Processing Unit 图形处理器

Shader: GPU执行的，针对3D对象进行操作的程序.

以VIP7000为例:

Shader: 1个shader是128位的处理单元. VIP7000的gpu有2个shader, 所以有2个core, 所以一个周期可以处理2条指令.

VIP上有2套指令集，shader指令集和针对vision的指令集.



program cache: 外面的程序加载到VIP7000的program cache里面，然后去执行.

                          存放的是openvx的指令

shader core:  VIP7000有2个shader core, 所以一个周期可以执行2条指令.                     

                      每个shader core里面有4个寄存器文件，每个寄存器文件有128个寄存器，每个寄存器是128bit.

       

最低0.47元/天 解锁文章

200万优质内容无限畅学
教程：Windows10下如何安装使用多版本Tensorflow2.x/Pytorch/paddlepaddle的GPU版本[和CUDA的安装及问题详解]【亲测可行】【详细和持续更新】
人生是一场修行
11-02 2172
一、本文初衷(一)、关于选择：(二)、**CUDA之间的关系：** 鄙人最初是学tf的，然后最近由于学术界很多新算法都是pytorch实现的，然后最近想去学学torch，后来发现paddlepaddle在国内的发展数一数二是在太强了然后也想接触一下paddlepaddle这个百度的深度学习框架，因为他有很多现成模型、开源模型。 但是，不幸的是鄙人原来使用的是CUDA10.0，无法安装CUDA10.0以上版本支持的DL框架版本。所以鄙人决定进行一番尝试，让PC兼容多个DL框架、以及多个DL框架的版本，是GPU
GPU 工作原理 图形处理单元 核心、内存和控制单元 内存架构 指令集 带宽（Bandwidth）、延时（Lantency）和吞吐（Throughput）
万有文的博客
04-25 1993
前面的章节对 AI 计算体系和 AI 芯片基础进行讲解，在 AI 芯片基础中关于通用图形处理器 GPU 只是简单地讲解了主要概念，本章将从 GPU 硬件基础和英伟达 GPU 架构两个方面讲解 GPU 的工作原理。英伟达 GPU 有着很长的发展历史，整体架构从 Fermi 到 Blankwell 架构演变了非常多代，其中和 AI 特别相关的就有 Tensor Core 和 NVLink。本节首先讲解 CPU 和 GPU 架构的区别，之后以AXY。
GPU 概念
qq_41680000的博客
12-15 692
流处理器(streaming processor,SP):GPU运算的最基本单元 ,浮点数、整形等运算。 别称(shader core): 渲染核 双精度浮点运算单元(DP (double processor?)):专门用于双精度浮点运算的处理单元。 特殊功能单元(special function unit,SFU):执行超越函数指令的单元 ，如正余弦，倒数和平方根等。 多核流处理器(streaming multiprocessor):GPU中最基本的一个工作单元，由...
GPU shader core guide
allen_zhuo的博客
07-19 308
GPU shander @TOC 1.shader 架构 2.shader 指令 3.shader programming guide 4.feature
2025最新CPU、GPU、NPU、APU指令大全（Windows、Mac、Linux）
最新发布
官方推荐：站内优质创作者
06-09 457
本文提供2025年最新CPU、GPU、NPU、APU指令查询与测试指南，涵盖Windows、Mac和Linux三大操作系统。内容包括：查看硬件基本信息，检测指令集扩展支持，测试CUDA、ROCm、Core ML等计算框架，以及常见问题解决方案。文中详细列出各平台命令行工具使用方法，如Windows的wmic和PowerShell，macOS的sysctl，Linux的lscpu等，并介绍Apple Neural Engine、Google Coral Edge TPU等专用加速单元的操作方式。适合硬件爱好者
【无标题】
chocolate2018的博客
01-29 886
IMX8 图像使用
GPU常用命令
yuehailin的博客
11-03 1034
常用GPU使用情况
GPU基本常识二
abedg126的博客
03-23 786
DSP、CUDA、VIP7000VIP7000：shader core是2个，每个shader core有4个寄存器文件，每个寄存器文件有128个寄存器，每个寄存器有128bit(一条指令可以处理128bit数据).                  线程切换0开销.                 一条指令执行完毕后，可以立刻拿到结果，没有数据延迟CUDA：shader core数量多，但寄存器...
电脑硬件基本常识共9页.pdf.zip
11-25
这是一份关于电脑硬件基本常识的资料，总共包含九页内容。电脑硬件是计算机系统的基础组成部分，理解和掌握这些基本知识对于日常使用、维护和升级电脑至关重要。以下是这份文档可能涵盖的一些核心知识点： 1. **CPU...
电脑基础常识：CPU、GPU、内存、主板、电源
我从小酷到大的
03-04 6546
本文为初识，会不断增删改查
如何用GPU算力卡P100玩黑神话悟空？
技术札记
09-08 4833
精力有限，只记录关键信息，希望未来能够有助于其他人。
TensorFlow 1.12版本，支持无GPU的计算机，支持CPU的指令集SSE2
06-27
该资源是针对无GPU的计算机，支持仅有CPU的计算机，支持的CPU架构指令集是SSE2，运行在windows系统下。
基于RISC-V的开源通用GPU指令集架构--乘影OpenGPGPU
卢鸿波-security²-安全二次方
12-07 1691
本篇博客，我们聚焦RISC-V 2024中国峰会上RISC-V的GPGPU相关专题中的乘影OpenGPGPU，来自清华大学何虎老师。
GPU指令
gdxb666的博客
10-28 689
GPU指令
GPU 硬件原理架构（一）
生活需要深度
07-05 8035
为了简单起见，我们做一些假设。我们假设已经填充了数据并存在于 GPU 的 DRAM 中，并且在整个流程中仅使用VS和PS。GPU图形处理，可以大致分成 5 个步骤，如下图箭头的部分。分别为 vertex shader、primitive processing、rasterisation、fragment shader、testing and blending。第一步，vertex shader。是将三维空间中数个（x,y,z）顶点放进 GPU 中。
GPU命令的一些汇总
ningmengzhihe的博客
03-06 646
查看GPU显卡基本信息 watch -n 3 nvidia-smi 3表示3秒更新一次查询结果，单位是秒
Shader频率or主频? 谁是未来显卡生命线
hdanbang的专栏
07-29 1591
什么是流处理器？     NVIDIA从G80开始带入了统一着色器架构（Unified Pipeline and Shader Design），也就是说Shader处理单元不会再和从前那样分开Pixel Shader、Vertex Shader等等不同类型的Shader单元，而是以GigaThread线程处理器根据工作负荷分配流处理器完成各种指令，配合标量
计算机组成与设计学习——GPU篇（四）：多线程多处理器架构_续
zbw2015623的博客
02-15 1364
本节继续介绍多线程处理器的相关内容，聚焦多线程多处理器的指令集架构的设计与实例，最后比较SIMT与其他多处理器的不同，并作最后的总结。
查看Linux中GPU使用率
04-01
<think>好的，用户想知道在Linux系统中如何监控GPU使用情况。我需要根据提供的引用资料来整理答案。首先，引用[1]提到了nvitop这个工具，类似top命令，实时显示GPU信息。引用[2]和[3]也讨论了其他工具，但可能安装需要权限。引用[4]提到了用Python脚本监控的方法。 用户需要工具和方法，所以应该分点说明。首先nvidia-smi是基础工具，然后介绍nvitop，再提到其他方法如gpustat。需要确保每个步骤都正确，比如安装命令是否正确，是否需要root权限。注意引用中的信息，比如nvitop是否需要root，但引用[1]提到安装是通过pip，可能用户权限即可。引用[3]提到另一个工具需要root，但用户可能没有，所以可以建议替代方案。 然后，用户可能想知道实时监控或周期性查看，所以可以包括watch命令结合nvidia-smi。另外，Python脚本的方法适合自动化任务，如引用[4]中的监控训练任务。需要确保回答结构清晰，分点列出不同的工具和方法，并附上示例代码或命令。同时，根据引用资料正确标注参考文献，比如nvitop来自引用[1]，gpustat可能来自其他引用，但如果没有明确提到，可能需要调整。 还要检查是否有其他工具或方法在引用中被提到，比如gpustat可能在引用中没有，但根据常识补充，或者是否在引用[3]中提到。如果引用中没有，可能需要避免添加，但用户问题可能允许一般性回答。根据引用资料，主要推荐nvitop和nvidia-smi，以及可能的脚本方法。 最后，生成相关问题，参考用户提供的示例，问题应围绕工具比较、安装问题、自动化监控等。确保回答符合格式要求，使用正确的中文，数学公式用$...$，独立公式用$$...$$，但这里可能不需要数学公式。代码块用正确格式，比如bash或python。</think>### 如何在 Linux 系统中监控 GPU 使用率 在 Linux 系统中监控 GPU 使用率可通过多种工具实现，以下是常用方法及详细说明： --- #### 1. **使用 `nvidia-smi` 命令** NVIDIA 官方提供的命令行工具，可查看 GPU 的基本状态（利用率、显存占用、温度等）。 ```bash nvidia-smi ``` 执行后会输出实时信息，包括： - **GPU 利用率**（`GPU-Util`） - **显存使用情况**（`Memory-Usage`） - **当前运行的进程**（`Processes`） 若需周期性刷新（例如每 2 秒），可结合 `watch` 命令： ```bash watch -n 2 nvidia-smi ``` --- #### 2. **使用 `nvitop` 工具** `nvitop` 是一个类似 `top` 的交互式监控工具，提供更直观的实时视图[^1]。 - **安装**： ```bash pip install nvitop ``` - **使用**： ```bash nvitop # 默认模式（完整视图） nvitop -m full # 显示详细进程信息 ``` 支持按 GPU 或进程排序，并高亮关键指标（如高负载进程）。 --- #### 3. **使用 `gpustat` 工具** 轻量级工具，以简洁格式显示 GPU 状态。 - **安装**： ```bash pip install gpustat ``` - **使用**： ```bash gpustat -i 2 # 每 2 秒刷新一次 ``` 输出包含 GPU 型号、显存占用、温度和进程列表。 --- #### 4. **自定义 Python 脚本监控** 通过调用 `pynvml` 库实现自动化监控[^4]。示例代码： ```python from pynvml import * import time nvmlInit() device_count = nvmlDeviceGetCount() while True: for i in range(device_count): handle = nvmlDeviceGetHandleByIndex(i) util = nvmlDeviceGetUtilizationRates(handle) mem_info = nvmlDeviceGetMemoryInfo(handle) print(f"GPU {i}: 使用率 {util.gpu}%, 显存占用 {mem_info.used//1024**2} MB") time.sleep(2) ``` 此脚本可扩展为触发告警或自动关机逻辑。 --- #### 工具对比 | 工具 | 交互性 | 安装复杂度 | 功能丰富度 | |--------------|--------|------------|------------------| | `nvidia-smi` | 无 | 无需安装 | 基础指标 | | `nvitop` | 高 | 需 pip | 进程管理、实时视图 | | `gpustat` | 中 | 需 pip | 轻量级周期性监控 | ---
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值