野心藏不住了!不满CPU统治,英伟达决定彻底重写软件开发栈!黄仁勋:为什么还要用Python?命令行都不需要!GPU开发时代将至...

GPU编程实战:Java平台下的GPU-Yard教程 本文还有配套的精品资源,点击获取 简介:GPU-Yard项目旨在为Java开发者提供GPU编程的平台和资源,包括使用JCuda等库进行GPU计算。该项目介绍了GPU的基本概念、CUDA编程基础、JCuda库的使用教程,以及并行编程技巧和性能优化。它还涵盖了具体的实例代码和跨平台部署问题,帮助开发者提升数据密集型计算任务的性能,具有广泛的应用前景。 1. GPU编程... 阅读详情

👉 这是一个或许对你有用的社群

🐱 一对一交流/面试小册/简历优化/求职解惑,欢迎加入「芋道快速开发平台」知识星球。下面是星球提供的部分资料: 

3ade2d779973ab58f1e4d493e40ea571.gif

👉这是一个或许对你有用的开源项目

国产 Star 破 10w+ 的开源项目,前端包括管理后台 + 微信小程序,后端支持单体和微服务架构。

功能涵盖 RBAC 权限、SaaS 多租户、数据权限、商城、支付、工作流、大屏报表、微信公众号、CRM 等等功能:

  • Boot 仓库:https://gitee.com/zhijiantianya/ruoyi-vue-pro

  • Cloud 仓库:https://gitee.com/zhijiantianya/yudao-cloud

  • 视频教程:https://doc.iocoder.cn

【国内首批】支持 JDK 21 + SpringBoot 3.2.2、JDK 8 + Spring Boot 2.7.18 双版本 

来源:51CTO技术栈


作者丨Agam Shah,编译丨诺亚

ca48017007f76e15898b6395b42808e5.jpeg

英伟达公司首席执行官黄仁勋最近的一番言论引起业界关注,他指出随着AI技术的进步,人们未来可能不再需要学习如何编程。

人工智能可以生成代码来解决特定问题,这一点已经得到了证明。而且英伟达正致力于重构支持此类AI代码生成的底层软件堆栈。

在黄仁勋看来,过去几十年,我们一直受限于围绕CPU的传统计算模式 ,即人类编写应用程序从数据库中检索预存的信息。

“我们今天进行计算的方式,信息是由某人编写的,由某人创建的,基本上都是预先录制的 。”黄仁勋在斯坦福大学的一次座谈中如此提到。

然而,英伟达的GPU开启了加速计算的新路径,转向了一种更加依赖算法的计算风格,在这种风格中,创造性推理而非逻辑 成为决定结果的关键因素。

“为什么还要用Python编程?在未来,你会直接告诉计算机你想要什么。”

未来的编程不再是编程

对于未来的编程,专家们预测,五年后,文字、图像、视频及语音等形式的信息都将会实时输入到大型语言模型中。计算机将通过所有信息流和多模态交互不断自我改进。

黄仁勋认为,在未来,我们将进入持续学习的时代,人们可以决定是否部署这些持续学习的结果。与计算机的交互方式将不再是C++或其他传统编程语言 。

这就是人工智能的用武之地——人们会通过理性思考,要求计算机生成代码以满足特定目标。这将要求人们用简单的自然语言与计算机交谈,而不是用C++或Python。

黄仁勋的观点是,随着AI的发展,传统的编程方式价值正在发生变化。如今只有大约1000万人因掌握编程技能而获得就业机会,但剩余的80亿人则与此无缘。而在未来,这种情况将不再存在,因为英语等自然语言将成为最强大的编程语言 ,人类规模的交互将有助于缩小技术鸿沟。

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/ruoyi-vue-pro

  • 视频教程:https://doc.iocoder.cn/video/

英语是新的编程语言

生成式人工智能将更像是一个操作系统,人类可以用通俗易懂的语言告诉计算机创建应用程序。黄仁勋说,大型语言模型将帮助人类通过计算机运行他们的想法。例如,现在人类已能够使用简单的英语来指示大模型生成特定领域应用所需的Python代码。

那么,如何让计算机做你想做的事?如何使用该计算机微调说明?黄仁勋据此强调了“提示工程”这一概念的重要性,即如何精炼地指导计算机执行任务,这其中蕴含着艺术性。

人们可以专注于知识和领域专业知识,而生成式AI将填补编程方面的空白,这将深刻影响软件开发格局。

英伟达不仅在硬件方面占据主导地位,还在利用诸如CUDA软件栈等技术增强其在AI市场的地位。通过提供专门针对医疗保健、金融等领域知识的大型模型支持,英伟达助力企业级应用发展。

黄仁勋说,全球数据中心的价值约达1万亿美元,预计未来四五年内将增长至4万亿至5万亿美元,而英伟达的GPU几乎触及每一项AI安装和应用。

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/yudao-cloud

  • 视频教程:https://doc.iocoder.cn/video/

不要低估黄教主的预判

回顾过往,黄仁勋的预见往往颇具前瞻性,他被誉为AI领域的先驱者。他引领了英伟达 GPU的研发工作,使得数十年前的人工智能理论得以实际应用。

目前,英伟达在AI市场的强势地位已将该公司的估值推高至2万亿美元,且有望在取得突破性进展后迎来历史性的一年。

英伟达GPU销量激增,使其2024财年第四季度营收达到221亿美元,比去年同期增长了惊人的265%;2024财年,英伟达收入增长126%,达到609亿美元。

2000年左右,英伟达的GPU主要面向游戏市场销售,黄仁勋意识到矢量处理单元可用于科学计算所需的大型建模和模拟。于是他在2007年创建了CUDA加速计算软件栈,该栈现已成为英伟达在AI领域占主导地位的核心组成部分。

GPU时代开启:颠覆传统的软件开发模式

英伟达的应用开发方法论 充分考虑了AI对不同类型数据的支持,如文本、图像和语音。为了高效处理这些不同的数据类型,需要新的软件栈以及如GPU这样的加速器。

CUDA GPU驱动软件提供了与GPU通信的基础工具集,包括编程模型、开发工具和一系列库。AI开发者正在利用CUDA的基本构建块来挖掘英伟达GPU的能力。

CUDA还具有自动编码的工具,供人们在GPU上运行应用程序。英伟达正在创建通用翻译器,可以接受查询、运行几行 Python 代码并将其传递给选定的 AI 模型。

英伟达的CUDA正在颠覆传统的软件开发模式,在这种模式下,应用程序是为CPU编写的。人工智能领域拥有新型的数据、算法和计算引擎,GPU取代了处理复杂问题能力不足的CPU 。

尽管如此,英伟达的AI堆栈与传统的x86 Wintel平台之间也存在相似之处 。如果人工智能是在英伟达的GPU上训练的,它也将需要英伟达的硬件来进行推理。不过,随着微软、Meta等公司开始部署自己的AI硬件,这一情况可能会有所改变。

从“硬件带动软件”转变为“软件带动硬件”

英伟达的业务结构体现了其期望AI补充人机交互的方式:通过数据类型和领域知识 。

该公司预构建了适用于各类模型的CUDA工具,例如,其汽车业务中包含了制造自动驾驶汽车所需的所有硬件和软件组件;在健康业务中,英伟达协助医生通过融合图像、患者报告和语音输入等方式使用AI与医疗数据进行交互。

英伟达将其AI企业套件称为“AI操作系统”,其中包含了诸如NeMo在内的大模型、编译器、库和开发堆栈,但运行这些软件通常需要英伟达的GPU。

6e7c128957e17eeaf92729d5ce16f173.png

此外,该堆栈还包括一些用于解决AI棘手问题的中间步骤,如Guardrails(护栏)工具可以分析大模型的输出,防止仇恨言论并保持对话方向。这取决于所有者制定的规则。这些应用程序可以使用LangChain框架进行开发。

英伟达更大的目标是通过交互式提示技术彻底摆脱命令行界面 ,让人们可以直接与数据库交互。这与软件堆栈没有太大关系,但它在搜索如何改变以向用户提供更多相关信息(什么、如何、何时和为什么)方面发挥了作用。

为此,英伟达正在出售AI软件订阅包 ,公司战略正从以往的“硬件带动软件销售”转变为“软件带动硬件销售”,希望通过销售仅能在自家GPU上运行的软件来扩大业务范围。

乾坤未定:开发者随机应变

黄仁勋表示,程序员仍然会在CUDA框架及不需要GPU的通用计算应用程序中发挥重要作用。但是他传达的核心信息也十分明确:未来属于人工智能, 开发者必须快速适应不断变化的技术格局,并调整自身技能。

英伟达提出了“AI工厂 ”的概念,这个工厂将原始数据作为原材料摄入,经过加工处理后产出的是高质量的数据成品。英伟达已经与所有主流云服务提供商及诸如Google、Snowflake、Salesforce、Oracle和VMware这样的软件供应商建立了稳固的合作关系。

尽管英伟达以其专有的硬件和软件平台努力尝试改变软件堆栈,但竞争对手也在迅速跟进。AMD推出的ROCm和英特尔研发的OneAPI都是日渐受到关注的开源选项。同时,谷歌也在自主研发软硬件堆栈以驱动其AI基础设施建设。AI时代的一众玩家里,英伟达的野心 是否终将成真,或是有黑马杀出撼动其强势地位,乾坤依旧未定。

参考链接:

https://thenewstack.io/nvidia-wants-to-rewrite-the-software-development-stack/


欢迎加入我的知识星球,全面提升技术能力。

👉 加入方式,“长按”或“扫描”下方二维码噢:

8c7169826591aa4892889472cbd16fee.png

星球的内容包括:项目实战、面试招聘、源码解析、学习路线。

50b130bbc7885ecb0eaf8dbda2a1466d.png

6a4c958039d45b022135e57469d45ec2.png9fca3a87361d8e67b02c6a2fa1fc75be.pngfe12c7eff9842681b3c9e4a1da681631.png140c2d3a87aac7e12e6fc2e359fb19d7.png

文章有帮助的话,在看,转发吧。
谢谢支持哟 (*^__^*)
java-openjdk-gpu:java-openjdk-gpu java-openjdk-gpu这只是一个docker文件 立即下载

相关推荐

企业数字化转型AI大模型赋能智能体平台及AI场景应用规划方案(生态合作版).pptx

企业数字化转型AI大模型赋能智能体平台及AI场景应用规划方案(生态合作版).pptx

java 调用gpu,我如何使用GPU与Java编程

I am using CUDAC all these days to access the GPU. But now my guide asked me to work with Java and GPU. So I searched in Internet and found Rootbeer is the best option for it but I am not able to unde...

weixin_34931370的博客 1441

MCGS的Http协议驱动,支持http协议

硬件配置 参数设置 设备属性 设备命令 通讯状态 附录 #HTTP 1、 设备简介 驱动类型 该驱动为独立设备,直接添加构件即可,不需要挂载到父设备下 通讯协议 采用标准HTTP1.1协议 通讯方式 驱动构件为客户端。 2、 硬件连接 本软件在通讯之前,请保证通讯连接正确。通讯连接方式:采用标准的RJ45接口的以太网接线(对调网线或使用HUB交换)。 3、 设备通讯参数 本设备为独立设备,无父设备参数 4、 设备构件参数设置 “HTTP设备”参数设置如下: <1> 内部属性: 构建url信息。 <2> 最小采集周期:本软件对设备进行操作的时间周期,单位为ms,默认为100ms。 <3> 通讯等待时间:通讯数据接收等待时间,默认设置为200ms,当采集速度要求较高或数据量较大时,设置值可适当减小或增大。 <4> HttpHead:http head添加需要的字段,不需要添加http head时值为空,默认不添加。 5、 设备命令 本设备构件提供设备命令,用于进行相应的操作,设备命令的格式如下: 设备命令 命令介绍 GetHttpHead 格式1 GetHttpHead(headStr) 用途 获取http head参数 参数 headStr 参数可以为字符型变量、字符串常量 例1 !SetDevice(设备0,6,"GetHttpHead(headStr)") 获取http head数据保存到headStr中 SetHttpHead 格式1 SetHttpHead(headStr) 用途 设置http head参数 参数 headStr 参数可以为字符型变量、字符串常量

Java 22 正式发布

JDK 22 于 2 月 16 日发布,此后没有报告任何 P1 错误。因此,Build 36 现在是 GA 版本,可供生产使用。此版本还包括数百个较小的增强功能 和数千个功能bug修复。Java 22 的参考实现 JDK 22 现已全面可用。其他供应商的版本无疑很快就会推出。

极道Jdon的技术博客 512

5-->详解《switch 数据接收驱动框架、mtk7621集成交换芯片mt7530》之一

SWITCH 交换芯片驱动配置: 一、 配置 MDIO 总线 二、配置 MAC 接口 三、基于 MAC 的 DMA 配置 四、设备驱动结构体 五、数据收发包

weixin_38387929的博客 1万+

PX4实战指南:通过遥控器通道映射实现多舵机PWM精准控制

本文详细介绍了通过PX4飞控的AUX PWM接口实现遥控器通道映射控制多舵机的实战指南。内容包括硬件选型与连接、软件参数配置、通道映射方法以及常见问题排查,帮助开发者精准实现无人机舵机PWM控制,适用于云台、机械臂等扩展功能开发。

ee345的博客 305

Java + AI 深度学习环境搭建全攻略:从零配置 GPU 开发环境

安装过程中,确保勾选“Add Anaconda to my PATH environment variable”选项,这样你就可以在命令行中直接使用 Anaconda 的命令。在开始搭建 Java + AI 深度学习环境之前,确保你已经具备了基本的深度学习概念,并且熟悉 Java 编程。解压下载的文件,并将解压后的文件夹命名为 `cuda`,然后将其移动到 `/usr/local/` 目录下。在完成上述所有步骤后,你可以通过编写一个简单的 Java 程序来验证你的深度学习环境是否配置成功。

JAVA高级架构 601

一口气看完TransformerXL详细解释带代码一:相对位置编码

相对位置编码(Relative Position Encoding)是Transformer模型中用于捕捉序列元素间相对位置关系的一种方法,与绝对位置编码(如BERT中的固定位置嵌入)不同,它直接建模元素之间的相对距离,从而更灵活地处理长序列或不同长度的序列。1. 为什么需要相对位置编码?​。

m0_73426548的博客 1427

野心藏不住了!不满CPU统治,英伟达决定彻底重写软件开发栈!黄仁勋:为什么还要用Python?命令行都不需要!GPU开发时代将至

英伟达公司首席执行官黄仁勋最近的一番言论引起业界关注,他指出随着AI技术的进步,人们未来可能不再需要学习如何编程。人工智能可以生成代码来解决特定问题,这一点已经得到了证明。而且英伟达正致力于重构支持此类AI代码生成的底层软件堆栈。在黄仁勋看来,过去几十年,我们一直,即人类编写应用程序从数据库中检索预存的信息。“我们今天进行计算的方式,信息是由某人编写的,由某人创建的,。”黄仁勋在斯坦福大学的一次座谈中如此提到。

IT界那些事儿 1万+

Jenkins Job DSL:用代码管理CI/CD配置的实践指南

Jenkins 是持续集成(CI)领域的经典开源平台,其核心价值在于自动化构建与交付流程。然而传统 UI 配置方式导致配置不可版本化、难以复现、审计困难,严重制约团队规模化协作效率。Job DSL 作为一种声明式配置即代码(IaC)方案,通过 Groovy 脚本驱动 Jenkins 内部 API,实现 Job、View、Folder 等资源的程序化创建与维护,天然支持 Git 版本控制、权限审计与环境一致性保障。它不替代 Pipeline,而是与其协同构成‘流程定义’与‘基础设施定义’双轨体系,显著提升 C

weixin_33744141的博客 520

保姆级教程:用CANoe手把手复现ECU刷写全流程(含BootLoader三阶段详解)

本文提供了一份详细的CANoe ECU刷写实战指南,涵盖BootLoader三阶段的深度解析。从实验环境搭建到预编程、主编程及后编程阶段,逐步讲解ECU刷写的关键步骤和隐藏逻辑,特别强调UDS诊断和CAN通信的精确控制,帮助开发者掌握ECU刷写的核心技术。

weixin_29234423的博客 534

java 调用gpu_GPU使用设置

keras参考资料:https://keras.io/zh/getting-started/faq/#sample-batch-epochhttps://keras-cn.readthedocs.io/en/latest/参考资料:https://www.jianshu.com/p/5d47f152ff62https://blog.csdn.net/A632189007/article/detai...

weixin_29229989的博客 4056

遥感影像建筑物变化检测

遥感影像建筑物变化检测

yilvyangguang520的博客 423

Java和JVM在GPU和容器上的置零

Oracle在3月21日的演讲中透露,未来Java编程语言的发展将强调对包括GPU和容器在内的现代计算平台的支持。此外,该公司的计划还要求确保Java为GPU和硬件加速提供强大的支持。 ,这对于支持机器学习和人工智能工作负载至关重要。 Oracle的Java SE(标准版)开发团队希望配置Java,以便JVM能够了解哪些工作负载应在GPU上运行,哪些工作负载应在CPU上运行。 GPU最初是...

cxu0262的博客 211

080、多轴运动控制:插补器设计(螺旋线插补)

本文分享了螺旋线插补器设计的实战经验。针对五轴点胶机Z轴抖动问题,作者分析了螺旋线数学本质,提出基于归一化时间参数的速度规划方法,强调各轴严格同步的重要性。文章详细介绍了速度分解、加减速处理、嵌入式优化技巧(查表法、定点化),并总结了起点闭合、速度波动、数值处理等常见问题解决方案。最后给出5条实用建议:注重速度规划而非纯数学推导、预先仿真、保留调试接口、考虑机械谐振、防范编码器丢脉冲。通过优化插补周期、电子齿轮比和S形速度曲线,成功将设备良率从60%提升至95%。

m0_50546716的博客 89

llama2-7b下载并转llama-2-7b-hf

④输入https://github.com/huggingface/transformers/blob/main/src/transformers/models/llama/convert_llama_weights_to_hf.py会下载 convert_llama_weights_to_hf.py 文件,我们需要用到这个文件将llama2-7b转成llama-2-7b-hf。③下载完之后是这四个文件,这里我是在windows操作系统中安装的WSL,没有linux操作系统,没办法。

wenling54321的博客 1033

java cuda_使用Java与Nvidia GPU(cuda)

首先,你应该意识到CUDA不会自动使计算更快的事实。一方面,因为GPU编程是一门艺术,它可以非常,非常具有挑战性得到正确。另一方面,因为GPU仅仅适合于某些类型的计算。这听起来很混乱,因为你基本上可以计算GPU上的任何东西。关键点是,当然,你是否将实现一个良好的加速。这里最重要的分类是问题是任务并行还是数据并行。第一个大致是指几个线程或多或少独立地在自己的任务上工作的问题。第二个是指许多线程都在做...

weixin_36355328的博客 2849

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

如何使用GPU加速深度学习

提高5倍的训练速度通常使用GPU完成深度学习 why need GPU?caffe speed with GPU,主要为了cuda库来完成线程和进程之间协调分配。调参数后的网络使用建议,计算速度快的主要原因是alexnet在2012年,多节点和多GPU的使用共同训练,做推理时design choices,采用分布式算法带来节点计算提升。 怎样用深度学习使用做Web应用: caffe工具做的w

yunxinan的专栏 1万+

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

nvidia java,使用Java与Nvidia GPU(cuda)

I'm working on a business project that done in java and needs huge computation power to computer business markets. Simple math but with huge amount of data.We ordered some cuda gpu's to try it with an...

weixin_34726945的博客 565

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

oracle19c gpu_Oracle和AMD提出了利用GPU的Java项目

Oracle和AMD提出了一个新的OpenJDK项目,旨在确定是否可以 通过本机JVM在Java中实现GPU支持。 本质上,这个由Oracle领导的计划旨在寻找是否可以通过利用GPU来提高计算能力而不仅仅是图形来提高Java应用程序的性能。 紧随微软,Mozilla和Google竞争对手的脚步之后,这些竞争对手都转向硬件以增强GPU浏览器的功能 Hotspot的小组负责人John Coom...

363

JDK 13 的五大新特性!你最中意哪个?

点击蓝色“程序猿DD”关注我哟加个“星标”,不忘签到哦来源:阿飞的博客关注我,回复口令获取可获取独家整理的学习资料:-001:领取《Spring Boot基础教程》-...

程序猿DD 2万+
上一篇: Hutool中的这些工具类,太实用了!
下一篇: 微服务+多级缓存,性能起飞!
公众号-芋道源码
博客等级 码龄10年 1640粉丝 377原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值