AMD ROCm™ 开源软件项目推荐

最新推荐文章于 2024-11-19 00:30:00 发布
最新推荐文章于 2024-11-19 00:30:00 发布
阅读量496 收藏 4
点赞数 5
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/gitblog_00251/article/details/143851594

AMD ROCm™ 开源软件项目推荐

ROCm AMD ROCm™ Software - GitHub Home ROCm 项目地址: https://gitcode.com/gh_mirrors/ro/ROCm

项目基础介绍和主要编程语言

AMD ROCm™（Radeon Open Compute）是一个开源的软件堆栈，主要用于图形处理单元（GPU）计算。ROCm 由一系列驱动程序、开发工具和 API 组成，旨在支持从低级内核到终端用户应用程序的 GPU 编程。该项目的主要编程语言包括 C++ 和 Python，其中 C++ 用于 GPU 编程环境，而 Python 则广泛用于机器学习框架的集成。

项目核心功能

ROCm 的核心功能包括：

  1. GPU 计算支持：提供了一套完整的工具和库，支持 GPU 加速的高性能计算（HPC）、人工智能（AI）、科学计算和计算机辅助设计（CAD）。
  2. 编程模型支持：支持多种编程模型，如 OpenMP 和 OpenCL，使得开发者可以在不同的平台上部署代码。
  3. 机器学习框架集成：完全集成到 PyTorch 和 TensorFlow 等主流机器学习框架中，方便开发者进行深度学习和 AI 模型的训练与部署。
  4. 开源软件编译器和调试器：包括所有必要的开源软件编译器、调试器和库，帮助开发者进行高效的 GPU 编程。

项目最近更新的功能

最近更新的功能包括：

  1. 支持新的 GPU 架构：增加了对 AMD 最新 GPU 架构的支持，如 MI300（gfx940, gfx941, gfx942），提升了计算性能和兼容性。
  2. 优化编译器和调试工具：对编译器和调试工具进行了优化，提高了代码编译速度和调试效率。
  3. 增强的机器学习框架集成：进一步增强了与 PyTorch 和 TensorFlow 的集成，提供了更多的高级功能和优化选项。
  4. 改进的文档和示例代码：更新了项目文档，增加了更多的示例代码和教程，帮助开发者更快地上手和使用 ROCm。

通过这些更新，ROCm 项目不仅提升了性能和兼容性，还增强了开发者的使用体验，使其成为 GPU 计算领域的强大工具。

ROCm AMD ROCm™ Software - GitHub Home ROCm 项目地址: https://gitcode.com/gh_mirrors/ro/ROCm

创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考

使用ROCm和AMD GPU进行机器学习基准测试：复现我们的MLPerf推理提交
数字人生
09-01 1284
衡量新技术的性能是自古以来的一种实验，常常引人入胜（例如，我们仍然用马力来比较新电动汽车电机的性能）。在迅速发展的机器学习（ML）领域，MLPerf在2018年5月2日由MLCommons成立，迅速成为衡量AI准确性、速度和效率的黄金标准。MLPerf为训练、高性能计算和推理性能提供了基准测试。行业中的公司使用MLPerf的提交结果来评估各种GPU和软件平台的性能，并根据这些结果做出技术采用决策。
【linux】AMD GPU和NVIDIA GPU驱动安装
数字人生
03-31 4664
综上，根据用户对性能和特性的需求以及所使用的Linux发行版，AMD GPU的驱动在安装上可以被认为相对简便，尤其是当满足于开源驱动提供的性能时。为了充分利用显卡的高性能计算（HPC）功能，可能需要安装AMDGPU-PRO驱动，这是AMD的官方专有驱动，它提供对OpenCL和其他专用计算框架的全面支持。对于Linux用户，AMD通常提供可执行的安装文件（比如`.run`或者`.sh`文件）或者用于各个发行版的包管理格式（例如Debian的`.deb`或者RedHat的`.rpm`）。
Gromacs-Rocm
ACE小海豚的博客
09-28 1396
前言：AMD目前也在努力改进自己的生态吧，推出了自有ROCm平台（对比CUDA），目前说是说在深度学习方面可以支持caffe、tensorflow以及Pytorch吧，但对于我个人尝试ROCm-Pytorch的感受来说，唉，安装太麻烦了（官网上面说Pytorch版还在开发中？？？）。 最近的一个工作是基于Gromacs-ROCm平台的移植，原本Gromacs有OpenCL版本的（...
使用源码编译安装AMD ROCm
u014756627的博客
02-15 4543
本文介绍了使用源码来安装AMD的ROCm组件。
Rocm-Programming with HIP 内存分配
weixin_44500921的博客
08-26 1676
使用 HIP Graph，开发者可以创建一个包含多个执行节点（如内核执行、内存复制等）的图形化任务依赖结构，然后提交给 GPU 执行，从而实现更细粒度的性能优化和资源管理。hipRTC 提供了一个灵活的方式来编译和执行 GPU 代码，允许在不同的运行时条件下进行优化，并且可以简化开发流程，因为不需要在编译时生成和处理二进制内核对象文件。提供了一种方式来分配可以被 GPU 直接访问的主机内存，这可以用于加速数据传输和实现零拷贝访问，但同时也需要考虑内存访问模式和数据一致性的需求。
ROCm示例项目教程
gitblog_00528的博客
09-04 576
ROCm示例项目教程 rocm-examplesA collection of examples for the ROCm software stack项目地址:https://gitcode.com/gh_mirrors/roc/rocm-examples 项目介绍 ROCm（Radeon Open Compute）是AMD开发的一个开源计算平台，旨在为GPU计算提供支持。ROCm-examp...
ROCm 开源项目入门指南及问题解决方案
gitblog_01288的博客
10-18 1037
ROCm 开源项目入门指南及问题解决方案 ROCm AMD ROCm™ Software - GitHub Home 项目地址: https://gitcode.com/gh_mirrors/ro/ROCm ...
AMD ROCm™ 安装指南
数字人生
09-28 1万+
AMD ROCm™ 是第一个面向 HPC/超大规模级 GPU 计算的开源软件开发平台。AMD ROCm™ 将 UNIX 的选择权、极简主义和模块化软件开发哲学引入 GPU 计算领域。有关更多信息，请参阅 AMD 的和页面。关于 ROCm 安装的更详细信息，请访问页面。在没有明确理解相关组件和安装流程的情况下，安装 AMD ROCm™ 软件包可能会遇到困难。本文将介绍如何在支持 AMD GFX9 架构的 AMD GPU 卡的工作站上安装 ROCm。
AMD ROCm软件栈组件介绍
wsq_zqfl的博客
11-27 3488
ROCm（Radeon Open Compute）开源软件栈。在NVIDIA GPU上，术语“CUDA”通常是指GPU编程编译器、API和运行时库，但ROCm不那么单一，通常根据其组件进行描述。图1显示了ROCm中涉及的主要组件堆栈。ROCm的顶部面向用户的组件通常是HIPAPI可移植性接口，它与CUDA几乎相同，主要的实际区别只是API函数的名称。HIP程序中的GPU内核使用LLVM编译器的AMD GPU后端进行编译，并使用ROCclr（ROCm公共语言运行时）运行时库运行。
Stone Ridge利用AMD Instinct™加速器扩展油藏模拟选项
数字人生
11-19 2048
Stone Ridge Technology（SRT）几乎在十年前通过其旗舰软件产品ECHELON开创了使用GPU进行高性能油藏模拟（HPC）的先河。ECHELON是首个此类软件，从一开始就专为充分利用大规模并行GPU的性能而设计，在功率、效率和准确性方面在行业中独树一帜。现在，ECHELON已经在其模拟引擎中加入了对AMD Instinct加速器的支持，为其客户提供了新的灵活性和选择性。油藏模拟器用于模拟在存在油井的情况下，地下碳氢化合物和水的流动。能源公司使用这些模拟器来创建和评估油田开发策略。
backend.ai：Backend.AI是简化的基于容器的计算集群协调器，它承载各种编程语言和流行的ComputingML框架，并具有可插拔的异构加速器支持，包括CUDA和ROCM
01-30
后端 Backend.AI是简化的基于容器的计算集群协调器，它承载各种编程语言和流行的计算/ ML框架，并具有可插拔的异构加速器支持，包括CUDA和ROCM。 它按需或使用可自定义的作业调度程序批量分配和隔离基础计算资源，以供多租户计算会话使用。 它的所有功能都以REST / GraphQL / WebSocket API的形式公开。 服务器端组件 如果要自己运行Backend.AI群集，则需要安装和配置以下服务器端组件。 LGPLv3许可所有服务器端组件，以促进开源社区中的非专有开放式创新。 如果仅按原样运行服务器端组件（例如，仅作为守护程序运行或在不修改代码的情况下导入组件），则无需打开服务/系统代码。 请联系我们（contact-at-lablup-com）以获得商业咨询，以及有关各个用例的更多许可详细信息/选项。 有关服务器安装和配置的详细信息，请访问。 API网关管理器 它将外部API请求从前端服务路由到各个代理。 它还可以监视和扩展多个代理程序的集群（几十到数百个）。 程序包名称空间： ai.backend.gateway和ai.backend.manager 插
使用ROCm的HIP API向量加法程序
数字人生
04-11 1568
这个程序首先创建了三个大小为`numElements`的浮点数数组`h_A`、`h_B`和`h_C`，并将`h_A`和`h_B`的元素分别设置为连续的整数。HIP (Heterogeneous-compute Interface for Portability) 是一个用于简化在AMD GPU上编程的接口，它提供了类似于CUDA的编程模型，使得开发者可以更容易地将CUDA代码迁移到HIP上，以在AMD GPU上运行。在这个程序中，我们首先定义了一个名为`vectorAdd`的核函数，它将在GPU上执行。
ROCm平台简介及使用汇总
weixin_45206081的博客
04-03 9107
ROCm是AMD的一个软件平台，用来加速GPU计算A卡上编程模型使用的是HIP或者OpenCL，而运行环境是ROCmN卡上，编程模型是CUDA，运行环境也是CUDA链接: [https://rocmdocs.amd.com/en/latest/]
【免费下载】 AMD ROCm 项目下载及安装教程
gitblog_01266的博客
10-18 4081
AMD ROCm 项目下载及安装教程 ROCm AMD ROCm™ Software - GitHub Home 项目地址: https://gitcode.com/gh_mirrors/ro/ROCm ...
推荐开源项目：GIM——AMD GPU虚拟化之利器
gitblog_00001的博客
06-02 1350
推荐开源项目：GIM——AMD GPU虚拟化之利器 项目地址:https://gitcode.com/gh_mirrors/mx/MxGPU-Virtualization 项目介绍 在当今的云计算和数据中心环境中，GPU虚拟化技术发挥着至关重要的作用。GIM（GPU-IOV Module）是AMD为基于SR-IOV（Single Root I/O Virtualization）硬件虚拟化产品设计的...
探索AMD CPU性能的极致：amdctl开源工具推荐
gitblog_00263的博客
09-15 1155
探索AMD CPU性能的极致：amdctl开源工具推荐 amdctl Set P-State voltages and clock speeds on recent AMD CPUs on Linux. 项目地址: https:/...
ROCm项目常见问题解决方案
gitblog_00489的博客
11-15 689
ROCm项目常见问题解决方案 ROCm AMD ROCm™ Software - GitHub Home 项目地址: https://gitcode.com/gh_mirrors/ro/ROCm ...
ROCm平台及HIP介绍
Charles Ren's Tech Blog
04-11 1万+
ROCm https://blog.youkuaiyun.com/JackyTintin/article/details/74637157 ROCm是AMD的一个软件平台，用来加速GPU计算。 对标Nvidia的CUDA平台。他是用在AMD显卡上的。 框架如下图： A卡上编程模型使用的是HIP或者OpenCL，而运行环境是ROCm N卡上，编程模型是CUDA，运行环境也是CUDA。 ROCm与CUDA对比 HIP HIP是一种编程模型，对标CUDA编程模型。 HIP 可以说是 CUDA API 的”山寨克隆“版。
AMD ROCm 平台简介
热门推荐
丁丁的博客
07-08 4万+
介绍 AMD 的 ROCm GPU 计算平台。
ollama AMD ROCm
最新发布
04-03
<think>好的，我现在需要帮助用户了解如何在AMD ROCm平台上安装和配置Ollama。首先，我得确认用户的需求是什么。用户提到他们想了解Ollama在ROCm上的支持情况以及安装配置方法。他们已经提供了几个引用链接，其中涉及ROCm的安装指南、Ubuntu 22.04的安装教程、QLoRA调优的博客，以及一个关于NVIDIA GPU不兼容PyTorch的错误信息。 首先，我需要回忆Ollama的相关信息。Ollama是一个用于本地运行大型语言模型（LLM）的工具，通常支持CUDA的NVIDIA GPU。但用户询问的是AMD的ROCm平台，这可能涉及到兼容性问题。根据引用[3]，有博客提到在单个AMD GPU上使用QLoRA调优Llama 2，这说明至少在某些情况下，AMD GPU可以用于类似的任务，但需要ROCm的支持。 接下来，我需要确认Ollama是否官方支持ROCm。查阅Ollama的官方文档，发现目前Ollama主要支持CUDA，但可能社区有非官方的支持或变通方法。用户提供的引用[3]显示有通过ROCm运行LLM的例子，所以可能可以配置Ollama使用ROCm。 然后，安装步骤可能需要先安装ROCm，如引用[1]和[2]所述。用户需要确保系统符合ROCm的要求，比如Ubuntu 22.04，然后按照官方指南安装ROCm 6.0。这可能涉及添加仓库、安装内核模块、配置用户组等步骤，如引用[2]中的教程提到的。 接下来，安装PyTorch的ROCm版本。因为Ollama可能依赖于PyTorch，而默认安装的PyTorch可能不支持AMD GPU。用户需要从PyTorch官网选择支持ROCm的版本，例如使用pip安装命令指定rocm5.6或更高版本。引用[4]中的错误信息提示了CUDA版本不兼容的问题，但在这里用户需要确保PyTorch针对ROCm构建。 然后是安装Ollama本身。可能需要从源码编译或使用社区提供的支持ROCm的分支。例如，用户可能需要克隆Ollama的仓库，检查是否有ROCm支持的分支，并按照特定说明编译。这可能涉及设置环境变量，如HSA_OVERRIDE_GFX_VERSION，特别是对于不同型号的AMD GPU，如RX 6000系列需要设置这个变量。 配置Ollama时，可能需要修改配置文件，指定使用ROCm作为后端，或者设置相应的参数让Ollama识别AMD GPU。例如，在启动Ollama时添加参数，或者设置环境变量如HIP_VISIBLE_DEVICES来指定使用的GPU。 验证安装是否成功，可以运行Ollama的命令行工具，查看日志是否检测到AMD GPU，并测试模型推理是否使用GPU加速。用户可能需要运行ollama run llama2这样的命令，并监控GPU的使用情况，比如使用rocm-smi工具。 此外，需要注意可能的常见问题，比如依赖项缺失、权限问题（需要将用户加入video组）、内核模块未正确加载等。引用[2]中的教程提到了安装过程中的一些坑，比如需要安装特定版本的ROCm，或者处理依赖冲突。 最后，生成相关问题时要考虑用户可能的后续疑问，比如性能调优、错误处理、模型兼容性等，帮助用户进一步解决问题。</think>### Ollama在AMD ROCm平台上的安装与配置指南 #### 1. 确认硬件与系统要求 - **AMD GPU支持**: 需为ROCm支持的GPU型号，例如Radeon VII、Radeon Pro VII、Instinct MI系列等。部分消费级显卡如RX 6000系列需手动设置环境变量`HSA_OVERRIDE_GFX_VERSION=10.3.0`[^2]。 - **操作系统**: 推荐Ubuntu 22.04 LTS，其他Linux发行版需参考官方兼容性列表[^1]。 #### 2. 安装ROCm平台 1. **添加ROCm仓库**: ```bash wget -q -O - https://repo.radeon.com/rocm/rocm.gpg.key | sudo apt-key add - echo 'deb [arch=amd64] https://repo.radeon.com/rocm/apt/6.0/ ubuntu main' | sudo tee /etc/apt/sources.list.d/rocm.list ``` 2. **安装ROCm核心组件**: ```bash sudo apt update sudo apt install rocm-hip-sdk rocm-opencl-sdk ``` 3. **配置用户权限**: ```bash sudo usermod -aG video $USER ``` 重启系统后运行`rocminfo`验证安装。 #### 3. 配置PyTorch for ROCm Ollama依赖PyTorch的GPU加速，需安装支持ROCm的版本： ```bash pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/rocm6.0 ``` #### 4. 安装Ollama 目前Ollama官方未直接支持ROCm，需通过源码编译： ```bash git clone https://github.com/jmorganca/ollama cd ollama # 切换到社区支持分支（例如rocm-experimental） GOAMD64=v3 make ROCM_ENABLED=1 ``` 编译成功后，将生成的`ollama`二进制文件复制到`/usr/local/bin/`。 #### 5. 运行与验证 - **启动Ollama服务**: ```bash HSA_OVERRIDE_GFX_VERSION=10.3.0 ollama serve ``` - **测试模型加载**: ```bash ollama run llama2 ``` 观察日志中是否出现`Using AMD GPU with ROCm`的提示。 #### 6. 常见问题 - **GPU未识别**: 检查`/dev/kfd`权限，或尝试`export HIP_VISIBLE_DEVICES=0`。 - **依赖冲突**: 使用`docker run --device=/dev/kfd --device=/dev/dri --security-opt seccomp=unconfined -it rocm/pytorch`在容器中运行[^3]。 - **性能调优**: 调整`OLLAMA_NUM_GPU=2`环境变量分配多GPU资源。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

曹令琨Iris

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值