- 博客(175)
- 收藏
- 关注
原创 3 分钟了解 NVIDIA 新出的 H200
英伟达在 2023 年全球超算大会上发布了备受瞩目的新一代 AI 芯片——H200 Tensor Core GPU。相较于上一代产品 H100,H200 在性能上实现了近一倍的提升,内存容量翻倍,带宽也显著增加……
2024-01-24 14:23:32
1167
原创 深入了解浮点运算——CPU 和 GPU 算力是如何计算的
算力最基本的计量单位是 FLOPS,英文 Floating-point Operations Per Second,即每秒执行的浮点运算次数。浮点运算其实就是带小数的加减乘除运算。
2024-01-17 14:57:26
4192
原创 加速计算,为何会成为 AI 时代的计算力“新宠”
加速计算是指使用专用硬件来执行某些类型的计算,其效率要比仅使用通用中央处理器(CPU)高。利用图形处理单元(GPU)、专用集成电路(ASIC)(包括张量处理单元(TPU))和现场可编程逻辑门阵列(FPGA)等设备的强大功能,以更高的速度执行计算,从而加速计算过程,一般我们也将这些设备称之为加速器。这些加速器尤其适用于可被分解为较小并行任务的项目,如高性能计算 (HPC)、深度学习、机器学习、人工智能和大数据分析。通过将指定类型的工作分派到这些专用加速计算硬件上,大大提高了系统的性能和效率。
2023-12-25 11:47:51
708
原创 NVIDIA RTX4090,你能用它做什么?
如果女生选择给男生送礼,我相信一块 RTX4090 就足以让他高兴得死去活来。RTX4090 到底是何方神圣?它凭什么赢得所有男生的“芳心”?
2023-12-12 11:02:24
1724
原创 3 分钟看完 NVIDIA GPU 架构及演进
近期随着 AI 市场的爆发式增长,作为 AI 背后技术的核心之一 GPU(图形处理器)的价格也水涨船高。GPU 在人工智能中发挥着巨大的重要,特别是在计算和数据处理方面。目前生产 GPU 主流厂商其实并不多,主要就是 NVIDIA、AMD、Intel、高通等厂家。本文将主要聊聊 NVIDIA GPU 的核心架构及架构演进。
2023-11-10 14:56:48
1466
原创 聊聊 GPU 产品选型那些事
随着人工智能的飞速崛起,随之而来的是算力需求的指数级增加,CPU 已经不足以满足深度学习、大模型计算等场景的海量数据处理需求。GPU 作为一种强大的计算工具,无论是高性能计算、图形渲染还是机器学习领域,在各个领域展现出了巨大的潜力和应用前景。说起 GPU,绕不过的当然是 NVIDIA 这个公司了,现在市面上火热的 A100/A800、H100 等 GPU 全是他家的产品。但当你有业务需求或者个人需求,想要采购 GPU 的时候,你会发现各个型号的 GPU 令你眼花缭乱。
2023-11-09 14:57:41
642
原创 巅峰对决:英伟达 V100、A100/800、H100/800 GPU 对比
近期,不论是国外的 ChatGPT,还是国内诸多的大模型,让 AIGC 的市场一片爆火。而在 AIGC 的种种智能表现背后,均来自于堪称天文数字的算力支持。以 ChatGPT 为例,据微软高管透露,为 ChatGPT 提供算力支持的 AI 超级计算机,是微软在 2019 年投资 10 亿美元建造一台大型顶尖超级计算机,配备了数万个 NVIDIA A100 GPU,还配备了 60 多个数据中心总共部署了几十万个 NVIDIA GPU 辅助。
2023-11-08 14:57:32
13258
原创 InfiniBand 的前世今生
今年,以 ChatGPT 为代表的 AI 大模型强势崛起,而 ChatGPT 所使用的网络,正是 InfiniBand,这也让 InfiniBand 大火了起来。那么,到底什么是 InfiniBand 呢?下面,我们就来带你深入了解 InfiniBand。
2023-11-03 11:06:42
557
原创 揭秘神秘的字符串匹配工具——正则表达式
每个正则表达式都有一个有限自动机(也称为状态机),它接受表达式指定的语言,并使用 Thompson 构造算法将正则表达式转化为一个与之等价的非确定有限状态自动机(NFA)。同时,对于每个有限自动机来说,还有一个描述该自动机所接受语言的正则表达式。该表达式可以通过克莱恩算法或高斯消元法生成。正则表达式的一个著名应用是文本编辑器中的搜索和替换功能,计算机先驱 Ken Thompson( UNIX 操作系统的开发者之一)首先在 20 世纪 60 年代的面向行编辑器 QED 中实现了该功能。
2023-10-31 15:22:13
232
原创 深入了解 GPU 互联技术——NVLINK
随着人工智能和图形处理需求的不断增长,多 GPU 并行计算已成为一种趋势。对于多 GPU 系统而言,一个关键的挑战是如何实现 GPU 之间的高速数据传输和协同工作。然而,传统的 PCIe 总线由于带宽限制和延迟问题,已无法满足 GPU 之间通信的需求。为了解决这个问题,NVIDIA 于 2018 年推出了 NVLINK,以提高 GPU 之间的通信效率。
2023-10-09 14:25:22
3073
1
原创 各快 100 倍?4G、5G、6G 相差这么多吗
二狗子今天晚上有点 emo,为什么呢?原来是二狗子心心念很久的一个手游上线了,二狗子兴冲冲地下载了 40 多分钟,终于下载完了游戏。结果打开游戏一看,发现游戏内部的更新写着预计 30 分钟完成更新。这就把二狗子搞得 emo 了。二狗子突然发现自己的室友已经在这款游戏的新手村大杀四方了。“你怎么这么快?”二狗子问。“我用手机流量下载的,5G,当然快。”室友都没看二狗子一眼,沉浸在自己的游戏世界里。5G 真的有这么快吗?好学的二狗子就让游戏保持着后台更新,在网上冲浪学习下知识充实自己。
2023-09-18 14:58:07
247
原创 为什么大家都在用 WebP?
WebP 是谷歌在 2010 年提出的一种新型的图片格式,放到现在来讲,已经不算是“新”技术了,毕竟已经有了更新的 JPEG XL 和 AVIF。但是在日常工作中,大家时常会碰到保存下来的图片的后缀是 .webp。那么 WebP 到底有什么魔力,让越来越多的网站“抛弃”常用的 PNG、JPG 而青睐它呢?
2023-09-13 15:28:30
512
原创 从驾考科目二到自动驾驶,聊聊 GPU 为什么对自动驾驶很重要
这些数据包含前车和本车的距离,左右两边的道路指示标志,周围汽车的距离,前方道路指示标志,红绿灯信号,马路边行人,非机动车等信息等,大量的图像和视频信息被转换成电脑能处理的二进制信息,这就需要 CPU 和 GPU 的共同加持才能完成安全稳定的自动驾驶工作。
2023-09-07 14:42:38
202
原创 聊透 GPU 通信技术——GPU Direct、NVLink、RDMA
AI 技术对算力的需求是非常庞大的,虽然 GPU 的计算能力在持续提升,但是对于 AI 来说,单卡的计算能力就算再强,也是有极限的,这就需要多 GPU 组合。而 GPU 多卡的组合,主要分为单个服务器多张 GPU 卡和多个服务器,每个服务器多张卡这两种情况,无论是单机多卡还是多机多卡,GPU 之间需要有超强的通信支持。
2023-09-05 14:42:17
2003
原创 这个 AI 机器人会怼人,它是怎么做到的?
人工智能可以定义为计算机科学的一个分支,其目标是创造与人类智力相当的技术。但智力到底是什么?如何利用技术来复制智力?这个疑问并不存在单一的理解,目前已经有了许多理论和方法来回答这些问题。人工智能的实现方式主要有两种:一种是基于规则的人工智能,通过预先编写的规则和逻辑来实现特定的任务;另一种是基于机器学习的人工智能,通过让计算机从数据中学习和优化算法,来实现特定的任务。
2023-09-01 15:05:40
529
原创 如何评估计算机的算力:从 CPU 到 GPU 的演变
这就是 CPU 和 GPU 在计算能力上的区别,这是由它们的架构决定的,CPU 可以执行任何程序,而 GPU转为多任务而生,并发能力强。当然,上面的两张图并不是说 GPU 比 CPU 厉害,事实上,CPU 和 GPU 各自具有不同的特点和优势,选择哪种设备取决于具体的应用场景和需求。其中,CPU(中央处理器)和 GPU(图形处理器)是计算机中最为核心的两个组件,它们的算力和性能对于计算机的整体性能具有决定性的影响。CPU 是计算机的核心组件之一,它的主要功能是执行指令、控制计算机的运行和处理数据等任务。
2023-08-25 15:18:23
2036
原创 浅谈 Linux 下 vim 的使用
底线模式的进入方法为:在命令模式下按":“键,Vim 窗口的左下方会出现一个”:"符号,这时就可以输入相关的指令进行操作了。在此模式下可以使用上、下、左、右键或者k、j、h、l键进行光标的移动,还可以对文件内容进行复制、粘贴、替换、删除等操作。当编辑完成,就可以按 Esc 退出插入模式,进入到命令模式。p : 黏贴,此命令是在命令模式下,按照上面的命令复制后,然后光标移动到想要复制的位置,然后按 p 黏贴。直接到某行:在底线模式下直接输入数字就可以到想到的行,如果输入的数字比文档的行数多就会到最后一行。
2023-08-24 15:35:06
1215
原创 如何高效实现 MySQL 与 elasticsearch 的数据同步
MySQL 自身简单、高效、可靠,是又拍云内部使用最广泛的数据库。但是当数据量达到一定程度的时候,对整个 MySQL 的操作会变得非常迟缓。而公司内部 robin/logs 表的数据量已经达到 800w,后续又有全文检索的需求。这个需求直接在 MySQL 上实施是难以做到的。
2023-03-15 10:15:00
627
1
原创 国密证书 VS 传统 SSL 证书,到底区别在哪?
国密算法,即国家商用密码算法。是我国自主研发创新的一套数据加密处理系列算法。从 SM1-SM4 分别实现了对称、非对称、摘要等算法功能。尤其适用于嵌入式物联网等相关领域,完成身份认证和数据加解密等功能。
2023-03-10 10:47:55
987
原创 又拍云邵海杨 - 25年Linux老兵,聊聊运维的“术”与“道”
邵海杨,从1998年开始使用Linux至今快25年了,资深Linux系统运维/架构师,DevOps八荣八耻倡导者,喜欢交流分享,活跃于社区,一直积极投身于开源活动的组织和传播。
2023-03-06 10:28:25
608
原创 从 AI 绘画到 ChatGPT,聊聊生成式 AI
无论是 AI 绘画,还是现在风靡全球的 ChatGPT,它们都属于 AI 的一个分支——生成式AI(Generative AI)。相较于传统的 AI 模型,生成式 AI 是一种特定类型的 AI,它专注于创建新内容。
2023-03-02 10:55:42
4983
原创 从 B 站出发,用 Chrome devTools performance 分析页面如何渲染
页面是如何渲染的?从 Chrome 的性能工具开始,具体看看一个页面是如何进行渲染的,以及进行页面优化时需要关注哪些指标。
2023-02-27 15:52:51
927
原创 【白话科普】聊聊网络架构变革的关键——SDN
SDN 即软件定义网络,它描述了一种网络架构,可以使用软件对单个硬件组件进行集中、智能的管理和控制,使用 OpenFlow 等开放协议允许访问网络设备,如交换机、路由器或防火墙等。
2023-02-20 15:29:27
1650
原创 二狗子翻车了,只因上了这个网站……
通过 fetch API 或 XMLHttpRequest 等方式发起的 HTTP 请求,必须要遵守同源策略 ,那什么是同源策略呢?为什么这个策略会导致我们的信息在浏览器上被盗用。
2023-02-06 15:50:58
539
原创 一文读懂 Kubernetes 存储设计
在 Docker 的设计中,容器内的文件是临时存放的,通过在 docker run 启动容器时,使用 --volume/-v 参数来指定挂载卷,将容器内部的路径挂载到主机,来保证即便容器被删除,保存到主机路径中的数据也仍然存在。
2023-01-10 15:56:23
411
原创 从实战出发,聊聊缓存数据库一致性
在云服务中,缓存是极其重要的一点。所谓缓存,其实是一个高速数据存储层。本文主要介绍更新数据库成功后,更新缓存和删除缓存这两个操作的区别和改进方案。
2023-01-09 15:12:25
510
原创 当谈论 React hook,我们究竟说的是什么?
React hook是什么,所谓 React hook,就是增强函数组件能力特性的钩子,把不同的特性「钩」进纯函数。React hook 的由来,其实也可以看作是前端技术不断演进的结果。
2022-12-23 15:31:15
507
原创 视频网站节约 30% 成本的秘密在这里
今年,爱奇艺宣布2022年第一季度首次实现季度盈利,长视频行业发展十几年来,一直深陷亏损旋涡。爱奇艺的首次实现季度盈利,也意味着降本增效将成为视频平台的发展方向。
2022-12-22 16:29:28
830
原创 【白话科普】从“熊猫烧香”聊聊计算机病毒
到底什么是计算机病毒呢?它是什么途径传播的,又会带来哪些危害,我们又该如何在日常使用电脑中防止感染病毒呢?
2022-11-21 15:21:47
1422
原创 【实操日记】使用 PyQt5 设计下载远程服务器日志文件程序
PyQt5 是一套 Python 绑定 Digia Qt5 应用的框架,是最强大的 GUI 库之一,使用 PyQt5 我们能够很容易的开发桌面应用,我们如何用 PyQt5 设计一个下载服务器指定日期日志文件的程序。
2022-11-11 14:54:21
1015
原创 又拍云之 Keepalived 高可用部署
Keepalived 是什么,它一款基于 VRRP 协议的高可用软件,借助它可以让多台服务器能像路由器一样做 VIP 虚拟地址的冗余转移,从而提升后端服务器的高可靠性。
2022-11-10 15:53:16
1158
原创 【经验分享】恋爱中出现了中间人怎么办?
当下互联网聊天通讯没有安全防护下,导致用户信息被中间人攻击盗取的事件频繁发生,我们的通讯软件如何保障安全沟通,避免中间人攻击盗取我们的信息。
2022-11-02 14:12:56
259
原创 海外云主机的选择要注意什么?
并不是任意海外云主机都能契合企业需求,所以企业在选择海外云主机时需要关注以下几点:* 国际带宽* 部署地域* 服务性能
2022-09-13 14:52:46
844
原创 详解 SSL(三):SSL 证书该如何选择?
随着 HTTPS 的普及,市面上也出现了各种不同的 SSL 证书。并且由于 SSL 证书的多样性,很多人对于如何选择 SSL 证书有着很大的困惑。因此,本篇文章将从证书安全级别、域名数量、用户类型这三个方面提供合理性建议。
2022-08-22 15:49:04
1452
原创 详解 SSL(二):SSL 证书对网站的好处
为了保证网站用户的浏览体验和数据安全,也为了提高网站的权重和信任度,部署 SSL 证书几乎是所有网站的首要任务。
2022-08-16 14:55:03
1704
原创 详解 SSL(一):网址栏的小绿锁有什么意义?
作为企业,部署 SSL 证书不仅可以帮助用户识别正确网站,更能确保网站数据的传输安全。那 SSL 证书到底如何保护网站信息安全的呢?
2022-08-05 11:06:55
1032
原创 低代码是开发的未来吗?浅谈低代码平台
相较于原生的开发模式,低代码开发平台能够显著提升开发效率,尤其适合业务变化快、预算有限、开发时间紧迫的企业应用场景;但是低代码平台也有明显的局限性,至少就目前来说,它主要用于搭建企业软件。......
2022-07-27 14:58:56
981
原创 DNS 系列(三):如何免受 DNS 欺骗的侵害
名称服务器和客户端之间的通信存在一定的安全风险,部分心怀不轨的人可以通过很多方法篡改 Internet 上的名称解析,实现通过虚假的 IP 地址发起欺骗攻击,我们可以通过文中的方式进行避免。...
2022-07-13 14:38:44
788
原创 DNS 系列(二):DNS 记录及工作方式,你了解吗?
网络通信主要通过 IP 地址来进行,而域名系统(DNS)通过以下过程保证用户在浏览器中输入域名之后,可以访问到对应的网站服务器的。
2022-07-11 16:44:12
924
原创 DNS 系列(一):为什么更新了 DNS 记录不生效?
DNS一般指域名系统,域名系统是互联网的一项服务,该系统会将域名翻译成实际的 IP 地址,来表示主机的账号、工作性质、所属的地域和组织等,从而便于记忆和使用。
2022-07-07 14:26:06
1267
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人