VMware BitFusion 初探一(环境搭建)

在Kubernetes上使用Bitfusion进行TensorFlow深度学习 *本文作者系VMware研发工程师 尹皓正 背景介绍 随着 AI 技术的快速发展,越来越多的企业开始将 AI 技术应用到自身业务之中。目前,云端 AI 算力主要由三类 AI 加速器来提供:GPU,FPGA 和 AI ASIC 芯片。这些加速器的优点是性能非常高,缺点是 成本高昂,缺少异构加速管理和调度。大部分企业因无法构建高效的加速器资源池,而不得不独占式地使用这些昂贵的加速器资源,导致 资源利用率低,成本高。 以 GPU 为例,通过创新的 Bitfusion GPU 虚拟化技术,能够帮助用户无需任务修改就 阅读详情

VMware vSphere BitFusion介绍

VMware在2019年8月收购了BitFusion,后者是硬件加速设备虚拟化领域的先驱,重点关注GPU技术。
BitFusion 提供了一个软件平台,可将特定的物理资源与环境中所连接的服务器分离,通过网络的方式让多个Client共享GPU计算能力。

VMware一直没有自己的GPU虚拟化技术,通过BitFusion终于补上了GPU虚拟化这块空白。

Bitfusion client运行AI / ML应用程序,该应用程序通过网络共享Bitfunsion Server上的直通GPU。
Bitfusion 可以将GPU内存划分为任意大小不同的切片,然后分配给不同的客户端以供同时使用。
Bitfusion 可以为VM和Container远程提供GPU计算能力。

Bitfusion 的 GPU 资源池有点类似于存储区域网络 SAN (Storage Attached Network),所以也有人把它叫作 GPU Attached Network。

1. 配置NVIDIA显卡直通模式

 确认NVIDIA显卡所在ESXi主机BIOS中Memory Mapped I/O above 4GB启用

  配置ESXI主机上的显卡为直通模式,因为需要配置到BitFusion虚机上;

勾选所有NVIDIA显卡;

配置完成后需要重启一次,重启后就可以看到直通显卡。

2. 部署 BitFusion Server

官网下载Bitfusion OVA安装包

这里注意 Extra configuration里的pciPassthru.64bitMMIOSizeGB = 256,部署完bitfusion虚机后,需要根据实际显卡内存系数进行调整。

注意vCenter GUID, vCenter URL和vCenter TLS Certificate Thumbprint

配置密码和IP地址等信息(建议MTU配置为9000)

可以配置多个端口用于数据传输(可选)

OVF导入完成后,不要开机。

编辑虚机:

  1. 调整CPU和内存,内存大小为显卡总内存 * 1.5

  2. 添加网卡(默认只有1块网卡)

  3. 添加所有直通显卡

修改虚机高级参数 

    pciPassthru.64bitMMIOSizeGB={n}

    where n equals (num-cards * size-of-card-in-GB) rounded up to NEXT power of  2:

    example A: 2 16GB cards => 2 * 16 => 32 => rounded to next power of 2 = 64

    example B: 3 16GB cards => 3 * 16 => 48 => rounded to next power of 2 = 64

配置完成后打开BitFusion电源,等待10分钟左右,BitFusion会自动注册Plugin,刷新浏览器。

打开BitFusion管理界面

注意BitFusion需要ESXi分配vSphere Enterprise Plus License,否则会提示License无效。

 

3. 部署 BitFusion Client

注意:目前仅支持RHEL/Centos 7, Ubuntu 18.04/16.04

部署一台CentOS7虚机,不要开机,确认Run VMware Tools Scripts全部勾选;

右击CentOS 7 虚机,启用bitfusion client;

选择 For a client;

将CentOS7虚机开机,然后执行以下命令安装bitfusion client

安装bitfusion-client
# yum install -y epel-release
# rpm --import https://packages.vmware.com/bitfusion/vmware.bitfusion.key
# yum install -y https://packages.vmware.com/bitfusion/centos/7/bitfusion-client-centos7-2.0.0-11.x86_64.rpm

将需要使用bitfusion的账号加入bitfusion group,我这里使用root账号

# Example: add “root” to the bitfusion group              
$ sudo usermod -aG bitfusion root

测试bitfusion client是否部署成功;

# connect to bitfusion and list all gpu
$ bitfusion list_gpus 
 - server 0 [10.10.10.11:56001]: running 0 tasks 
   |- GPU 0: free memory 15109 MiB / 15109 MiB
   |- GPU 1: free memory 15109 MiB / 15109 MiB
   |- GPU 2: free memory 15109 MiB / 15109 MiB

如果成功显示bitfusion server上配置的直通显卡信息,恭喜你配置成功。

 

下一篇文章演示:VMware BitFusion 再探二(功能测试)

聊聊Bitfusion VMware 与 GPU的发展 随着机器学习和深度学习对大规模算例的要求,基于大的吞吐量设计的GPU得到了大力发展,其中NVIDIA的发展最快,占据市场第一的份额。VMware对硬件对支持一直在更新,GPU也不例外。在没有Bitfusion出现之前,GPU在vSphere虚拟化平台上使用,分为2种模式:直通模式和vGPU模式。 GPU直通模式(Pass-Through) 在GPU直通模式下,整个物理GPU直接分配给一个虚拟机,绕过NVIDA虚拟GPU管理器。在这种操作模式下,GPU只由运行在分配给它的VM中 阅读详情

相关推荐

Vmware 中 Ubuntu 20.04 安装 NVIDIA CUDA以及 cuDNN

Vmware 中 Ubuntu 20.04 安装 NVIDIA CUDA以及 cuDNN 文章目录Vmware 中 Ubuntu 20.04 安装 NVIDIA CUDA以及 cuDNNvSphere Bitfusion Client前提条件安装过程CUDACUDNN 为了使用Tensorflow GPU 尝试在vmware中 安装cuda , 但是 vmware不允许直接安装nvidia驱动; 采用 vSphere Bitfusion 技术来间接使用CUDA 参考链接 vSphere Bitfusio

Sizaif's 小屋 4万+

使用Bitfusion在K8s上共享GPU资源

题图摄于北京北三环注:微信公众号不按照时间排序,请关注公众号“亨利笔记”,并加星标以置顶,以免错过更新。(本文作者系VMware中国研发云原生实验室架构师,负责云原生、机器学习等方面的创新...

亨利笔记 1830

利用 GPU 在 vSphere 平台上加速机器学习(Bitfusion)

利用 GPU 在 vSphere 平台上加速机器学习(Bitfusion) 方案文档。 利用 GPU 在 vSphere 平台上加速机器学习(Bitfusion) 方案文档 利用 GPU 在 vSphere 平台上加速机器学习(Bitfusion) 方案文档

VMware BitFusion 再探二(功能测试)

1. Bitfusion clients run the AI/ML applications sharing the GPUs on the servers across the network. 2. GPU memory can be partitioned into slices of arbitrary, different sizes, then allocated to different clients for concurrent use. 1. 测试步骤 主要测试步骤: •.

coco3848的博客 3168

ComfyUI的G-Dino模型加载器报错解决方案:从崩溃到重生

遇到G-Dino模型加载器报错不要慌,按照本文的步骤操作,99%的问题都能解决。模型文件正确下载到指定位置segment_anything节点安装完整且无冲突需要补充更多细节或故障排除方法吗?可以随时告诉我。

2301_78150483的博客 4023

微信支付V2,jsapi支付拉起收银台报错:调用支付JSAPI缺少参数:total_fee

拉起收银台报错

m0_54355172的博客 3873

VMware BitFusion GPU池化实战:从零搭建到跑通bitfusion list

GPU虚拟化是现代AI基础设施中的关键环节,传统直通与vGPU切分在资源利用率和灵活性上存在明显局限。GPU池化技术将分散的物理显卡抽象为统一算力资源池,实现按需分配、动态释放,有效提升GPU利用率,降低硬件成本。这一思路在VMware生态中落地为BitFusion方案,它通过逻辑调度层接管CUDA调用,让无GPU客户端也能透明访问远端算力。对于因GPU利用率低而头疼的基础设施团队,或需要在不改造业务代码的前提下为虚拟化平台引入GPU算力的场景,BitFusion提供了值得探索的路径。本文从环境规划到Ser

weixin_33895657的博客 1167

基于Codex平台构建AI技能:抖音爆款分析与带货视频生成实战

这次我们来看一个基于 Codex 平台构建 AI 技能(Skill)的实战项目。核心目标很直接:利用 AI 能力,自动化分析抖音平台的爆款内容,并生成可用于带货的视频。这听起来像是内容创作领域的“自动化流水线”,它解决的核心痛点是:人工分析爆款、撰写脚本、制作视频的效率瓶颈。 对于技术开发者和内容创作者而言,这个项目的价值在于将“内容策略分析”和“视频内容生成”两个环节通过 Codex 的 Skill 机制串联起来,形成一个可定制、可批量执行的自动化工作流。我们最关心的几个问题包括:这个方案的技术门槛高不高

weixin_29054399的博客 485

BitFusion多集群平台搭建实战:从环境评估到函数验证

多云与边缘计算场景下,多集群基础设施已成为云原生落地的重要底座。BitFusion正是位于Kubernetes之上的一层抽象,它将多个集群统一抽象为资源池,通过标准镜像和函数接口完成业务调度。这种多集群纳管能力,让用户无需关心负载最终运行在哪个集群,只需声明资源需求即可。其典型价值体现在统一管控、弹性调度和FaaS任务执行等场景,尤其适用于概念验证与平台评估。不过,真正动手部署时,资源评估、集群版本、网络规划与证书信任等基础工作往往决定成败。本文按照实际执行顺序,完整记录从控制面资源判断、底座集群准备、部署

weixin_33787529的博客 231

告别Arduino IDE!用VSCode搭建Arduino UNO R3开发环境(含代码补全配置)

本文详细指导如何用VSCode替代Arduino IDE搭建Arduino UNO R3开发环境,包含代码补全配置和高效开发技巧。通过安装必要插件、配置项目结构和优化工作流,可显著提升开发效率,特别适合复杂项目开发。文章还提供了常见问题解决方案和高级功能调优方法。

weixin_30698297的博客 477

AutoCAD矢量数据导出全攻略:GIS4CAD插件一键转shp/mdb/kml(附安装包)

本文详细介绍了GIS4CAD插件如何高效解决AutoCAD矢量数据向GIS格式转换的难题。通过一键操作,用户可将CAD中的规划图、地形图等无损转换为行业标准的shp、mdb、kml等多种格式,并确保属性完整与坐标准确。文章提供了从插件安装、数据准备到实战导出的全流程指南,是城市规划、测绘等领域专业人士提升数据互操作效率的必备攻略。

a2b3c4d5e的博客 283

VMware Bitfusion GPU共享技术的应用场景

相关信息:VMware招聘机器学习和云原生开发工程师VMware招聘内源开发工程师VMware招聘应届生开发工程师《Harbor权威指南》新书发布1. 背景GPU作为一种加速器芯片,在机...

亨利笔记 1559

【Linux】Petalinux使用QSPI FLASH引导启动

1. 预分配Flash空间使用Flash引导Petalinux做的系统,也有进阶的做法。部分图片和经验来源于网络,若有侵权麻烦联系我删除,主要是做笔记的时候忘记写来源了,做完笔记很久才写博客。1. 预分配Flash空间根据生成的bit文件大小估算BOOT.BIN文件的大小,为Flash大概分配四个分区:boot、bootenv、kernel、bootscr,分别存放BOOT.BIN文件、u-boot的环境变量、内核文件(image.ub/zImage/uImage等)、启动脚本boot.scr。

Tesseract_9527的博客 3375

戴尔旗下云计算公司VMware收购AI初创公司Bitfusion

【TechWeb】7月19日消息,据国外媒体报道,当地时间周四,戴尔旗下的云计算公司VMware宣布收购AI初创公司Bitfusion,后者将有助于前者在人工智能和机器学习领域的努力。 Bitfusion成立于2015年,是一家总部位于得克萨斯州奥斯汀的初创公司。2017年,该公司获得了500万美元的A轮融资,由Vanedge ...

优快云头条 255

uni-app开发-第3篇:uni-app 页面与路由

本文详细介绍了 uni-app 中的页面开发与路由管理。首先,页面是应用的基础单元,创建页面时需在pages目录下新建文件夹和.vue文件,页面结构由<template>、<script>和<style>三部分组成。uni-app 页面生命周期函数包括onShow、onReady、onHide和onUnload,分别用于处理页面显示、渲染完成、隐藏和卸载时的逻辑。其次,路由管理通过pages.json文件配置页面路径和样式,并提供uni.navigateTo等方法进行路由

无 415

【异常】Openclaw Gateway进程异常停止问题分析与解决方案

本文分析了Gateway服务异常停止的问题,提出了三种解决方案。核心问题是缺乏进程守护和自动恢复机制,导致服务崩溃后无法自行重启。推荐方案是使用PM2进程管理工具(方案1),提供进程监控、自动重启和开机自启功能。替代方案包括自定义守护脚本(方案2)和supervisord管理(方案3)。这些方案都能有效解决当前服务脆弱性问题,显著提升服务可用性,其中PM2方案成熟度高、配置简单,是首选解决方案。实施后可将服务从人工干预转变为自动恢复,确保业务连续性。

奶爸的编程之路,也就一周冷个三天 457

vSphere Bitfusion运行TensorFlow深度学习任务

题图摄于北京奥林匹克公园本文介绍vSphere 7内置的Bitfusion功能如何在Kubernetes中使用,让应用使用远端GPU资源。(本文作者系VMware云原生实验室工程师,首发...

亨利笔记 701

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

浪潮云完成6亿元B轮融资,正推进上市;VMware收购AI初创公司Bitfusion;小爱同学App在苹果应用商店下架……...

关注并标星星优快云云计算极客头条:速递、最新、绝对有料。这里有企业新动、这里有业界要闻,打起十二分精神,紧跟fashion你可以的!每周三次,打卡即read更快、更全了...

优快云云计算 1319

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

GPU利用率提升软件横向对比评测:NVIDIA Run:ai、VMware Bitfusion、博云ACE与阿里云PAI灵骏

阿里云 PAI 灵骏作为 PAI 平台的核心算力底座,与 PAI-DSW(开发环境)、PAI-DLC(训练服务)、PAI-EAS(推理服务)等组件无缝集成,提供从模型开发到部署的全流程支持。本次评测选取四款代表性产品:NVIDIA Run: ai、VMware vSphere Bitfusion、博云先进算力管理引擎 ACE、以及阿里云 PAI 灵骏,从技术架构、核心功能、国产化适配、部署形态四个维度进行深度对比,为企业选型提供决策参考。对于已完成或计划进行国产化替代的企业,这两款产品的适用性大打折扣。

Mangguo5208的博客 668

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

一文了解 TKG 如何使用 GPU 资源池

相关文章:有了这个办法,跑AI任务再也不用在机器上插GPU卡了随着科技进步和产业变革的加速演进,人工智能(AI)已经成为兵家必争之地。在政府、学术机构、企业等各个层面,AI都受到高度重视,其在学术研究、技术创新、人才教育等方面的发展都呈现全新发展态势。作为AI市场中的重要组成,以 GPU 技术为主的 AI 加速市场也得到了快速的发展,与此同时,由于 GPU 硬件价格昂贵,传统使用 GPU 算力的独...

亨利笔记 759

gpu加速虚拟服务器,vSphere 环境机器学习 GPU 加速方案选型

GPU 已经成为支撑 AI 应用的一种关键计算加速设备,GPU 的多处理器架构非常适合用来加快深度神经网络应用中的大量矩阵运算过程。大量实测数据表明,跟通用处理器相比,GPU 在运行深度神经网络时具有显著的效能优势。在虚拟机中使用 GPU 主要有三种设置:DirectPath I/O、NVIDIA vGPU、vSphere Bitfusion,我们来比较一下这几种方法的优缺点。01DirectPa...

weixin_36310976的博客 875

Vmware的安装

登录 https://192.198.10.48/ 下载 Vspher Client安装开始,选择语言。下一步接受条款选择路径安装开始安装完成桌面显示图标登录地址192.198.10.48忽略进入主界面 转载于:https://blog.51cto.com/fengjianziyi/1651144...

weixin_34357887的博客 153

国庆假期免费观看VMworld 2021线上大会

一年一度的 VMworld 将于 10 月 6-7 日(亚洲时区)开幕,VMware将展示最新技术成果和新产品。本次大会采用线上虚拟形式,全球用户均可免费观看大部分的内容。适逢国庆假期,感...

亨利笔记 246

Nvidia GPU池化-远程GPU

Nvidia GPU得益于在深度学习领域强大的计算能力,使其在数据中心常年处于绝对的统治地位。尽管借助GPU虚拟化实现多任务混布,提高了GPU的利用率,缓解了长尾效应,但是GPU利用率的绝对值还是不高,长尾现象依然存在。网卡池化、存储池化、内存池化、CPU池化等一系列相近基础设施领域的技术演进,让大家对GPU池化也产生了一些想法。

https://www.zhihu.com/people/mu-zi-zhi-6-28 2603

文献阅读和学习汇总:Bit Fution,bit-flexible accelerator(多位宽混合精度神经网络加速器)

学习这方便知识主要是因为和我大论文的方向相关,怕今天看过之后下周就忘了,而且csdn关于这方面的资料好像不是很多,所以特地整理记录一下。

2401_83129283的博客 2434

vSphere 环境机器学习 GPU 加速方案选型

GPU 已经成为支撑 AI 应用的一种关键计算加速设备,GPU 的多处理器架构非常适合用来加快深度神经网络应用中的大量矩阵运算过程。大量实测数据表明,跟通用处理器相比,GPU 在运行深度神经网络时具有显著的效能优势。在虚拟机中使用 GPU 主要有三种设置:DirectPath I/O、NVIDIA vGPU、vSphere Bitfusion,我们来比较一下这几种方法的优缺点。 DirectPath I/O (直通) 这种方法是在 vSphere 虚机上使用 GPU 的“最小干预”途径,ESXi hype

Arlo的博客 1076
上一篇: Kubernetes 部署Redis Cluster
下一篇: VMware BitFusion 再探二(功能测试)
VMware技术分享
博客等级 码龄16年 47粉丝 388原创
评论 7
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值