手把手教你在谷歌云平台搭建基于GPU的深度学习

云服务器搭建深度学习环境 腾讯云服务器搭建pytorch环境 阅读详情

大数据文摘授权转载自 数据派THU

作者:Saurabh Bodhe

编译:陈振东、车前子


我知道,基于GPU的高端的深度学习系统构建起来非常昂贵,并且不容易获得,除非你……


https://hackernoon.com/deep-learning-with-google-cloud-platform-66ada9d7d029


假设你有一台带有GPU的裸机,当然如果有些配置是预先设置好的,可以跳过下面部分教程。此外,我还假设你有一个NVIDIA的显卡,我们在本教程中只讨论如何配置TensorFlow,也就是目前最受欢迎的深度学习框架(向谷歌致敬!)


安装CUDA驱动程序


CUDA是NVIDIA开发的一个并行计算平台,是搭建TensorFlow的基本前提。但是我们后面会提到,实际上最好使用逆向工作的方法,所以我们稍后再回到这部分。


安装TensorFlow


启动终端(如果是远程访问的话,就使用SSH)。总之,找到特定应用程序(如果有的话)所需的TensorFlow版本,或者如果没有这样的限制,可以使用我目前使用的TensorFlow 1.8.0。


pip install tensorflow-gpu==1.8.0


在TensorFlow安装的时候,我们运行下Python shell,


python


在Python shell中输入下面的代码:


import tensorflow as tf


但这时我们还没有安装CUDA,你会看到类似下面的报错:


ImportError: libcublas.so.9.0: cannot open shared object file: No such file or directory


9.0版本、文件名或者是其他的报错,这取决于您选择的TensorFlow版本。但是这样做的目的是知道我们需要哪个版本的CUDA,在这个例子中是9.0。官方文档中TF版本和CUDA版本的对应关系不是很清楚,所以我一直觉得这种逆向工程方法更好。


然后,我们再回到CUDA的安装。使用



exit()


退出Python shell。


安装CUDA驱动(相信我,这次是真的安装)


根据之前的操作,选择你需要的版本:


Linux->x86_64->Ubuntu->16.04 (or 17.04)->deb (network)


下载相应的.deb文件,并按照NVIDIA的官方说明安装CUDA。完成之后,让我们检查下是否一切正常。


再次打开Python shell并运行下面的代码,


import tensorflow as tf


当然,我们还没有完成,这次你会看到稍微不同的报错(如果在此之前就出现了类似的报错,参考下面的“Troubleshooting”中的修复方法)


ImportError: libcudnn.so.7: cannot open shared object file: No such file or directory


我们还需要NVIDIA提供的一个叫做cuDNN的库,它可以使用GPU加速深度神经网络的计算。注意,本教程中的cuDNN版本是7.0。


打开并注册一个帐户(免费的):

https://developer.nvidia.com/cudnn

注册好帐号后,登录:

https://developer.nvidia.com/rdp/cudnn-archive。


选择你需要的cuDNN版本,并确保你选择该版本所对应的CUDA版本。在本教程中,我们需要下载以下版本,


Download cuDNN v7.0.5 (Dec 5, 2017), for CUDA 9.0


在下拉选项中选择,


cuDNN v7.0.5 Library for Linux


这样,.tgz文件就开始下载了,将文件存储到你的机器上,并使用以下命令进行提取,


tar -xzvf <CUDNN_TAR_FILENAME>


最终提取出一个名为“CUDA”的文件夹,切换到该目录,并执行下面两条命令,


sudo cp lib64/* /usr/local/cuda/lib64/sudo cp include/cudnn.h /usr/local/cuda/include/


这样就完成了(但愿如此)。再次启动Python shell,这次你知道该做什么。


如果这次运行没有报错,那就没问题了。


为确保TensorFlow能够检测到GPU,在Python shell中使用以下代码,


tf.test.gpu_device_name()


它将会把所有可用的GPU显示出来。如果这个命令在旧版本的TF可能运行不了,可以试试下面的命令。


nvidia-smi


问题修复


如果所有配置都正确,nvidia-smi也可以执行,但TensorFlow仍然报出相同的错误,那么很有可能环境变量出了问题。执行下面的命令进行修复:


export LD_LIBRARY_PATH=/usr/local/cuda/lib64:${LD_LIBRARY_PATH}export PATH=/usr/local/cuda/lib64:${PATH}


如果nvidia-smi命令都无法执行,CUDA没有正确安装,那就重新安装配置一遍,看看有没有什么遗漏的地方。


欢迎大家提问,建议或者批评。


祝好。


【深度学习】谷歌云GPU服务器创建与使用指南(一) 相关【深度学习】谷歌云GPU服务器创建与使用指南 阅读详情

相关推荐

深度学习/云计算 - 【学生党】【GPU】16个云服务器资源大汇总

笔者近期参加一些深度学习、数据科学类的比赛,本地算力已不足以满足需求,需要更强的计算资源。本着“货比三家”的原则,笔者搜罗了互联网上的云计算资源,主要对其经济性进行汇总如下。

记录学习痕迹的公众号:Piper蛋窝 3万+

linux深度学习环境配置随笔

linux

weixin_41796280的博客 1407

【深度学习】关于谷歌云GPU服务器创建与使用指南

上一篇介绍了如何使用ssh。 【深度学习】谷歌云GPU服务器创建与使用指南(二)_星辰大漠-优快云博客 本篇主要介绍:在服务器中安装显卡驱动及配置深度学习框架。 服务器与本地主机的区别(待补充) 在配置本地Linux系统(比如ubuntu)主机的深度学习框架时,显卡驱动的安装按照提示一步一步进行即可。但是,在给服务器安装GPU驱动时,就要考虑到显卡驱动中的显示驱动不能安装,因为服务器预装的系统中没有X桌面(GUI),这点一定要注意。 配置环境 1)安装NVIDIA驱动 显卡驱动下载官网地.

m0_63984008的博客 1515

深度学习模型部署——Flask框架轻量级部署+阿里云服务器

在部署的时候遇到了很多坑,就想记录一下,仅代表个人看法。项目场景:角膜疾病图片识别算法(pytorch环境),用Flask轻量级框架部署到web端并部署到阿里云服务器进行测试。

m0_73614455的博客 6514

使用谷歌云GPU的指南

本教程介绍了如何在谷歌云上使用GPU实例进行高性能计算和深度学习任务。通过按照上述步骤创建GPU实例、连接到实例、安装GPU驱动和深度学习框架,并运行GPU加速的代码,您可以充分发挥GPU的计算能力,加速您的计算任务。本教程将向您介绍如何在谷歌云上使用GPU实例,并提供相应的源代码示例。安装完GPU驱动和深度学习框架后,您可以使用GPU实例来运行加速的代码。一旦连接到GPU实例,您需要安装适当的GPU驱动和深度学习框架。创建完GPU实例后,您可以通过SSH连接到实例并开始使用GPU。

CqpFsharp的博客 961

如何在谷歌云平台上训练深度学习模型

云计算指的是通过互联网按需交付IT资源。无需自行购买和维护物理服务器及数据中心,借助云服务提供商,我们就能获取计算能力和存储等基础设施。据统计,全球约90%的公司都在使用某种形式的云服务,这足以体现其强大之处。令人惊叹的是,云服务提供了种类繁多的系统和应用,若自行维护,几乎难以实现。对于我们的需求而言,只需用到谷歌云的计算引擎服务。计算引擎让我们能够使用由谷歌服务器托管并维护的虚拟机实例。虚拟机实际上是对计算机系统的模拟,基于计算机架构,提供物理计算机的功能,其实现可能涉及专门的硬件、软件或两者结合。

2501_90323865的博客 201

学习深度学习期间收集到的GPU算力平台

分享一下我了解到的GPU算力平台,主要是统计一下(每个平台不做具体说明了),附有链接,具体可自行查看。

weixin_48169169的博客 5569

从MC到DC:三维重建算法的核心原理与实战对比

本文深入对比了三维重建领域两大经典算法Marching Cubes(MC)与Dual Contouring(DC)的核心原理与实战表现。MC算法原理直观、实现简单,但存在特征丢失和二义性问题;DC算法通过求解二次误差函数(QEF)和利用法向量信息,能更好地保留模型的尖锐特征,但计算更复杂。文章结合医学影像处理实例,为开发者根据速度、精度和特征保真度需求选择合适算法提供了清晰指南。

weixin_29251131的博客 1034

终于部署成功!GPU 云环境搭建 ChatGLM2-6B 坎坷路

“这两天根据官方文档搭建国产开源大模型 ChatGLM2-6b,不说七七四十九难,也碰到不少坑,坑坑不一样。”01—之前ChatGLM2-6B 初体验文章发出时,答应朋友搭建一个免申请的版本,方便朋友们试用咱们的国产大语言模型。‍‍‍从官方指引开始,官方 Git 仓库:‍‍‍https://github.com/THUDM/ChatGLM2-6B看着很简单,统共3行命令。我就信心满满的撸起袖子开...

4828

Labview程序框架介绍

当掌握LabVIEW基础知识并达到,理解单个小型模块程序会相对轻松。而若想进一步探索大型程序,就必然需要了解程序框架相关内容。LabVIEW常用的程序架构包括等。在多年工作中,我接触过的众多高级工程师所开发的大型程序,基本都基于这些架构搭建。接下来,将为大家详细介绍这些框架。

Misterlhw的博客 4620

群晖NAS从入门到精通的所有帖子汇总,只要这一篇就够了

本站陆陆续续的转载、原创帖子也有十几二十篇了,从不同的角度对群晖NAS的各种骚操作都有深入的讲解,虽然很多文章都不是讲的很深入,但是针对小白入门已经是足够了,希望对小白来说是一个入门,群晖NAS的大佬们勿喷,哪里写的不对的,请随时留言西安SEO优化站长一定在第一时间纠正修改。

西安SEO优化网站资源 8万+

matlab gpu deep learning_手把手教你在谷歌云平台搭建基于GPU的深度学习

大数据文摘授权转载自 数据派THU作者:Saurabh Bodhe编译:陈振东、车前子我知道,基于GPU的高端的深度学习系统构建起来非常昂贵,并且不容易获得,除非你……https://hackernoon.com/deep-learning-with-google-cloud-platform-66ada9d7d029假设你有一台带有GPU的裸机,当然如果有些配置是预先设置好的,可以跳过下面部分教...

weixin_39815310的博客 302

SAP MD81创建客户独立需求简介

正常我们用的最多的计划独立需求都是使用的是MD61 ,今天我们说下SAP的另外的一个标准功能客户独立需求MD81。虽然SAP给这个TCODE的描述是客户独立需求,但是实际是没有地方去关联对应的客户信息的。可以看到根据客户需求产生了对应的计划订单,我们创建的时候选择的KSV是按库存生产的,所以转换的时候生产订单也按单生产的。上面填写的这些字段的信息是不是和我们销售订单里面的字段的信息很相似。1)填写交货日期,可以选择按月 ,按日,按周等类型选择对应的日期。保存后会显示对应的客户独立需求的号码,如下图。

我小时候很黑的博客 2904

谷歌云运行python_手把手教你在谷歌云平台搭建基于GPU的深度学习

大数据文摘授权转载自 数据派THU作者:Saurabh Bodhe编译:陈振东、车前子我知道,基于GPU的高端的深度学习系统构建起来非常昂贵,并且不容易获得,除非你……假设你有一台带有GPU的裸机,当然如果有些配置是预先设置好的,可以跳过下面部分教程。此外,我还假设你有一个NVIDIA的显卡,我们在本教程中只讨论如何配置TensorFlow,也就是目前最受欢迎的深度学习框架(向谷歌致敬!)安装CU...

weixin_39635373的博客 630

【产品】 产品设计:ID设计和MD设计详解

1、ID(Industry Design)工业设计 包含外观、材质、手感、颜色配搭,主要界面的实现与及色彩等方面的设计。 2、MD(Mechanical Design)结构设计 以手机为例: 前壳、后壳、手机的摄像镜头位置的选择、固定的方式、电池如何连接和手机的厚薄程度等。 如果是滑盖手机,如何让手机滑上去,怎样实现自动往上弹,SIM卡怎样插和拔的安排,这些都是手机结构设计的范畴。 繁...

产品线负责人 3万+

【用unity实现100个游戏之1】制作类元气骑士、挺进地牢——俯视角射击游戏多种射击效果(一)(附源码)

俯视角射击游戏)是一类以俯视视角进行游戏展示的射击游戏。在这种游戏中,玩家控制着一个角色或载具,从俯视的角度上方观察游戏世界,并与敌人进行战斗。这种视角使玩家能够有更好的全局观察和策略性,同时也强调快速反应和精确射击。视角:俯视角度可以是固定的,也可以随着玩家角色的移动而变化,但都允许玩家以全局视角观察整个战场,有利于制定战略和规划行动。射击:玩家通常需要使用各种武器来与敌人进行战斗,包括枪械、爆炸物等。射击动作依赖于玩家的反应速度和准确性。

向宇的博客,专注php/web全栈 unity游戏开发,欢迎大家评论纠错 7833

在谷歌云服务器上搭建深度学习平台

2018年9月8日笔记 登录谷歌云控制台需要科学上网,连接云主机不需要科学上网。 阅读此文并进行操作的前提是已经成功申请谷歌云的使用资格,并获得300美元使用金额。 如何申请谷歌云的使用,请阅读另外一篇文章《申请谷歌云教程,可免费使用一年》。 文章链接:https://coderschool.cn/2598.html,获得300美元使用金额后即可转回本文阅...

潇洒坤 9968

部署OpenClaw(ClawdBot、MoltBot)后访问localhost:18789报1008错误怎么办?

部署openclaw(曾用名ClawdBot、MoltBot)后访问localhost:18789出现1008授权错误❌?本文分享如何快速解决这个问题✅

XiaoqiangClub的博客 1万+

从头开始搭建谷歌云深度学习平台

    对于研究深度学习的朋友来说,GPU服务器是必不可少的,但是对于很多朋友来说可能没有现成的昂贵GPU服务器供使用,因此利用云服务器来训练模型成为另一个选型。谷歌云较其他云服务器(AWS,阿里云等等)的优势在于新注册账号有$300美金的免费使用额度,对于手头并不宽裕的学生党来说这可能是一个大的利好消息。今天我就来分享一下我是如何从头开始搭建基于谷歌云的深度学习平台。第一步,    注册谷歌账号...

d123456ddq的博客 1万+

mabl:AI原生测试自动化平台的基础使用

mabl是一个基于人工智能和机器学习的云原生测试自动化平台。它通过使用先进的技术,如机器学习,自动创建和执行测试,自动分析测试结果,并根据需求的变化自动适配和维护测试。这样的自动化过程极大地提高了软件测试的效率和准确性。mabl的口号是 “You write code, mabl tests”,意味着开发者只需关注编写代码,而测试工作则可以交给mabl来完成。mabl的平台支持多种测试类型,包括 Web、App、Api、可访问性和性能测试,使得团队能够更快速、更有信心地发布软件。

blues_C的博客 3659

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

关于谷歌云平台(google cloud platform)创建实例

1 创建实例 这一步直接百度搜索即可,很多答案,此处不再描述 2 申请GPU 免费用户的话只能使用cpu,想要使用gpu需要升级用户。 当创建实例不成功,会提示Quota ‘GPUS_ALL_REGIONS’ exceeded. Limit: 0.0 globally.或者类似信息。这时,需要去IAM 管理>配额, 第三个下拉中,找到GPUS,点击前边的方框,对号选中,然后点击上方的修改配...

sangwz 5489

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

谷歌云代理商:谷歌云TPU/GPU如何加速您的AI模型训练和推理

谷歌云的 TPU 和 GPU 组合为您的 AI 之旅提供了无与伦比的算力支持。TPU 是大规模、高效能深度学习训练的王者,尤其适用于 LLMs 等前沿模型;而 GPU 则以其通用性、灵活性和广泛的生态系统支持,成为各种 AI 工作负载的可靠选择。 通过充分利用 Vertex AI 和其他谷歌云服务,您可以轻松地选择并管理这些顶尖的 AI 加速器,告别算力瓶颈,加速您的模型训练和推理,从而将您的 AI 愿景变为现实。

CLOUDACE的博客 1188

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

SIMATIC S7-1200, S7-1500 PID 控制[手册]

SIMATIC S7-1200, S7-1500 PID 控制[手册]

谷歌云运行python_TensorFlow-谷歌深度学习库 手把手教你如何使用谷歌深度学习云平台...

自己的电脑跑cnn, rnn太慢? 还在为自己电脑没有好的gpu而苦恼? 程序一跑一俩天连睡觉也要开着电脑训练?如果你有这些烦恼何不考虑考虑使用谷歌的云平台呢?注册之后即送300美元噢~下面我就来介绍一下谷歌云平台的使用。1 配置谷歌云平台项目(GCP Project)https://console.cloud.google.com/cloud-resource-manager按照谷歌的向导你可以...

weixin_39814378的博客 780

创立于使用指南的谷歌云GPU服务器

上一篇介绍了如何使用ssh。 【深度学习】谷歌云GPU服务器创建与使用指南(二)_星辰大漠-优快云博客 本篇主要介绍:在服务器中安装显卡驱动及配置深度学习框架。 服务器与本地主机的区别(待补充) 在配置本地Linux系统(比如ubuntu)主机的深度学习框架时,显卡驱动的安装按照提示一步一步进行即可。但是,在给服务器安装GPU驱动时,就要考虑到显卡驱动中的显示驱动不能安装,因为服务器预装的系统中没有X桌面(GUI),这点一定要注意。 配置环境 1)安装NVIDIA驱动 显卡驱动下载官网地.

m0_63984008的博客 314

深度学习GPU最全对比,到底谁才是性价比之王?

https://www.toutiao.com/a6675902565571363339/ 搞AI,谁又没有“GPU之惑”? 张量核心、显存带宽、16位能力……各种纷繁复杂的GPU参数让人眼花缭乱,到底怎么选? 从不到1000元1050 Ti到近30000元的Titan V,GPU价格的跨度这么大,该从何价位下手?谁才是性价比之王? 让GPU执行不同的任务,最佳选择也...

喜欢打酱油的老鸟 2万+
上一篇: ACL 2019年度回顾:自然语言处理发展趋势
下一篇: 两个月三项成果,对标谷歌!独家对话小米AutoML团队,如何让模型搜索更公平
BigDataDigest
博客等级 码龄9年 448粉丝 500原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值