特斯拉遇上 CPU:程序员的心思你别猜

特斯拉FSD技术解析 阅读详情

18世纪流水线的诞生带来了制造技术的变革,人类当今拥有琳琅满目物美价廉的商品和流水线技术的发明密不可分,因此当你喝着可乐、吹着空调、坐在特斯拉里拿着智能手机刷这篇文章时需要感谢流水线技术。

一段有趣的代码

有这样一段代码:

for (int k = 0; k < 10000; k++){  for (int i = 0; i < arr.size(); i++) {      if (arr[i] > 256)          sum += arr[i];  }}

这段代码非常简单,给定一个数组,计算所有大于256 的元素之和,重复计算 10000 遍。

这段代码本身平淡无奇,但有趣的是:如果这个数组是有序的,那么这段代码的运行速度会比处理无序数组快将近 10 倍(不同的机器、CPU架构可能会稍有差异)。

可这是为什么呢?这和制造业使用的流水线又有什么关系呢?且听我慢慢道来。

流水线技术的诞生

1769年,英国人乔赛亚·韦奇伍德开办了一家陶瓷工厂,这家工厂生产的陶瓷乏善可陈,但其内部的管理方式极具创新性,传统的方法都是由制陶工专人来完成,但韦奇伍德研究后将整个制陶工艺流程分成了几十道工序,每一道工序都交给专人完成,这样传统的制陶人不复存在,这便是工业流水线最早的雏形。

发扬光大

虽然流水线技术可以说是英国人发明的,但发扬光大的却是美国人,这便是福特与T型车。

20世纪初,福特将流水线技术应用到汽车的批量生产,效率得到千倍提高,使得汽车这种奢侈品开始能够为大众消费,深刻影响了现代社会的方方面面,注意上图中一辆车的价格。。。

100 年后又一个美国人携带他的时尚电动车再一次席卷全球,这就是特斯拉。

接下来我们仔细看一下流水线技术。

特斯拉与流水线

假设组装一辆特斯拉需要经过:组装车架、安装引擎、安装电池、检验四道工序,同时假设每个步骤需要 20 分钟,因此如果所有工序都由一个组装站点来完成,那么组装一辆特斯拉需要80分钟。

但如果每个步骤都交给一个特定站点来组装的话就不一样了,此时生产一辆车的时间依然是80分钟,但这只是第一辆车所需要的时间,此后工厂可以每20分钟就交付一辆特斯拉。

注意,流水线并没有减少组装一辆车的时间,只是增加了工厂的吞吐能力。

流水线技术的使用极大增加了工厂交付车辆的效率。

CPU 与超级工厂

其实 CPU 本身也是一座超级工厂。

只不过CPU这座工厂生产的不是特斯拉,而是机器指令。

工厂内部有流水线极大提高了生产效率,CPU 没有理由不拥有。

你可以想象一下,不管你现在看这篇文章用的是PC 还是智能手机,其内部的 CPU 都有一条复杂度不亚于特斯拉超级工厂的流水生产线。

如果我们把CPU处理的一条机器指令当做一辆特斯拉的话,那么对于现代CPU这座超级工厂来说,一秒钟的时间内可以交付数十亿量特斯拉,效率完爆任何当今制造界的工业流水线,CPU 才是一座名副其实的超级工厂。

如果特斯拉超级工厂也如 CPU 一般高效的话,特斯拉可能比现在的自行车都要便宜,地球人民人手一辆特斯拉不成问题,算上外星人也不成问题。

机器指令与流水线

实际上说 CPU 生产机器指令是不正确的,CPU 其实不是在生产机器指令而是在处理机器指令,生产机器指令的是编译器,CPU需要处理机器指令以此来指挥整个计算机系统工作。

同生产一辆特斯拉需要四道工序一样,处理一条机器指令大体上也可以分为四个步骤:取指、译码、执行、回写,这几个阶段分别由特定的硬件来完成 (注意,真实 CPU 内部可能会将执行一条指令分解为数十个阶段)。

怎么样,是不是和超级工厂生产特斯拉没什么区别,当今CPU用每秒处理数十亿机器指令的能力驱动着智能手机好让你流畅的刷公众号、短视频、刷微博、刷知乎,这里,流水线技术功不可没。

当 if 遇到流水线

实际上 CPU 内部的流水线和现实中的并不完全一样。

程序员在代码中编写的 if 语句一般会被编译器翻译成一条跳转指令,

if 语句其实起到一种分支的作用,如果条件成立则需要执行if内部的逻辑,否则不执行;因此跳转指令会依赖自身的执行结果来决定到底要不要跳转,这会对流水线产生影响。

有的同学可能不明白,这能产生什么影响呢?

现在,让我们仔细观察一下特斯拉流水线,你会发现当前一辆车还没有完全制造完成时后一辆车就已经进入到流水线了。

对于CPU来说道理是一样的,当一条跳转指令还没有完成时后面的指令就需要进入到流水线,因此问题来了:

跳转指令需要依赖自身的执行结果来决定到底要不要跳转,那么在跳转指令没有执行完的情况下 CPU 怎么知道后面哪个分支的指令能进入到流水线呢?

CPU 能预测未来吗?

预测未来

对此 CPU 当然是不知道的。

那么该怎么办呢?

很简单,一个字,猜。

你没有看错,CPU 会猜一下 if 语句可能会走哪个分支,如果猜对了流水线照常继续,如果猜错了,对不起,流水线上已经执行的后续指令全部作废,因此我们可以看到如果CPU猜错了会有性能损耗。

现代 CPU 将“猜”的这个过程称为分支预测。

当然,CPU 中的分支预测并不是简单的抛硬币式的随机瞎猜,而且有特定策略,比如可能会基于执行跳转指令的历史去进行预测等等。

知道了分支预测就可以解释文章开头的问题了。

程序员的心思你别猜

现在我们知道,程序员编写的 if 语句对应的是跳转指令:

if (arr[i] >= 256) {  sum += arr[i];}

CPU 在执行完跳转指令之前必须决定后续哪个分支的指令会进入到流水线,猜对了流水线照常进行,猜错了有性能损耗。

那么如果一个数组是有序的:

而如果一个数组是无序的:

你觉得哪种更好猜一些?

如果你给CPU一个无序数组,那么 Arr[i] 是否大于256 基本上就是随机的,对于随机事件,不要说CPU的分支预测,任何其它预测手段都将无效,否则这就不是随机事件了。

如果 CPU 猜的不对,那么流水线上的后续指令将作废,这就解释了为什么处理有序数组要比处理无序数组性能好了,因为在数组有序的情况下,CPU 的分支预测几乎不会猜错,流水线上的指令不会被频繁作废。

这对程序员的启示就是:如果你编写了 if 语句,那么你最好让 CPU 大概率能猜对。

有的同学看到这里,可能会觉得每一条 if 语句都性能低下,恨不得从此不再写if else,真的是这样吗?

编写 If else时需要注意什么

实际上如果你编写的if语句没有位于对性能要求很高的核心代码部分,那么分支预测失败这种问题无需关心。

实际上现代 CPU 的分支预测是很聪明的,对于非核心部分的if 语句分支预测失败带来的性能损失可以忽略不计。

但是对于文章开头提到的代码,程序的大部分时间都用在了 for 循环中,这时你就要注意了,当然前提还是这段代码对时间要求非常严苛,否则你也没必要为了这点性能去优化。

好奇的同学可能会问,如果给定的数组是无序的,那么上面提到的这段该怎么优化呢?

性能优化

实际上非常简单,只需要移除 if 语句就可以,该怎么移除呢?

没有 if 语句的话,那么 sum 每次都必须加上一个数,如果arr[i]比256大,那么 sum 加上差值,否则 sum 加 0即可,这样就消除了if 判断。

我们计算arr[i] - 256的值,并将其向右移动31位:

(arr[i] - 256) >> 31

这样得到的数不是0 (0x00000000),就是 -1 (0xffffffff),然后我们对其取反,再次与上 arr[i] 即可:

sum += ~((arr[i] - 256) >> 31) & arr[i];

也就是说如果arr[i] - 256 大于0 的话那么差值会与上 0xffffffff,其结果就是保持不变,否则会与上0,其结果就是sum会加上0,这样就不需要 if 判断了。

利用位运算,即使数组是无序的也不会有性能问题,代价就是代码可读性会降低很多,这里,我们再一次看到天下没有免费的午餐。

总结

虽然 CPU 体积很小,只有指甲那么大,但 CPU 可能是人类有史以来建造过的最复杂的东西,在这里实现了很多有趣的功能,程序员只有彻底理解 CPU 才能更好的利用这些功能编写性能优异的程序。

希望这篇对大家理解 CPU 有所帮助。

彩蛋:实际上本文提到的代码还有一种更加精妙更加拍案叫绝的优化方法,这个方法几乎能将性能提升恐怖的1万倍,你能想出来吗?把这篇文章分享到朋友圈或者推荐你身边的两位好友关注本公众号(关注时间必须是最近两天),这两种方式均可,然后扫描下方二维码加我微信(提供截图或好友微信昵称),你就知道答案啦。

参考资料:
  1. 程序员应如何理解 CPU?

  2. CPU 空闲时在干嘛?

  3. CPU 与进程、线程、操作系统

留言:博主的公众号目前还没有留言功能,有任何反馈或者疑问你也都可以通过上面这个微信找到我。

NPU、CPU、GPU算力对比:特斯拉FSD芯片背后的计算秘密 本文深入剖析了特斯拉FSD芯片的计算架构,对比了NPU、CPU和GPU三大核心算力单元在自动驾驶系统中的不同角色与协同逻辑。文章解释了TOPS、TFLOPS和DMIPS等算力指标的真实含义,并重点阐述了NPU如何作为感知加速器,以高能效比执行神经网络推理,而CPU与GPU则分别承担系统调度、决策规划及图形处理等任务。 阅读详情

相关推荐

NPU、CPU、GPU算力及算力计算方式_npu 130

三星将ARM Cortex-A76内核优化后叫Kryo内核,还有硬件加速器等,猜想是三星对A76的性能优化已超50%性能提升,已到达ARM架构师Filippo(上面说的)所描述的50%-70%性能提升的中位数。特斯拉资料中,该芯片的目标是自主4级和5级。FSD芯片采用三星(德克萨斯州奥斯汀的工厂)的14纳米工艺技术制造,集成了3个四核Cortex-A72集群,共有12个CPU,工作频率为2.2GHz,1个(ARM的)Mali G71 MP12 GPU,2个NPU工作频率为2GHz,还有其他各种硬件加速器。

2401_87555719的博客 2708

在特斯拉工作,到底要会几门语言,排第一的竟然是它?

从2020年伊始,到2021年,在这一年多的时间里,特斯拉的市值涨幅最高值达到了848%的增长。经济的不景气好像不仅没有给特斯拉带来影响,反而还成为了特斯拉成长的催化剂。市值的疯狂增长,也...

cainiao_python的博客 3002

特斯拉Tesla Model 3整体架构解析(下)

特斯拉Tesla Model 3整体架构解析(中) Tesla Computer Unit 特斯拉已经开发了一个由自动驾驶仪和信息计算机组成的定制“液冷双计算平台”。“他们建立在同一模块的两个不同的董事会上,”System Plus首席执行官弗劳克斯解释道。 一边是信息娱乐电子控制单元(ECU)或MCU。另一边是自动驾驶ECU。在最初安装在型号3上的HW2.5中,特斯拉的自动驾驶仪仍然由英伟达的SOC和GPU启用。 特斯拉集成了几家制造商的完整模块,这些制造商与英伟达的高性能集成电路(用于GPU)、英特尔

吴建明wujianming_110117 2848

特斯拉-软件开发岗-面经

一面英文自我介绍英文聊了一下实习项目的问题英文聊了点模块设计的问题中文聊了个设计用户登录模块的问题问了几个美团工作中的问题缓存更新策略线程池美团如何实现链路跟踪。23届刚被裁,不知道怎么投云智社招岗。

Buoluochuixue的博客 527

特斯拉 Model 3解析(八)全面拆解特斯拉自动驾驶大脑:AP控制器硬核技术解析

算力极限:双FSD = 144 TOPS,专为AI推理优化。存储架构:LPDDR4 + NAND + NOR,保证高速/可靠启动。通信架构:以太网传视频,CAN传控制,TSN保障实时性。感知输入:多路摄像头 + 高速SerDes,满足全景感知。电源设计:功率模块+被动元件海洋,稳定性优先。功能安全:双芯片冗余 + GPS + 紧急呼叫,容错率极高。🎯 在我看来,特斯拉AP控制器就是一台“车载超算”,它在电源设计、存储架构和功能安全上远超一般新势力方案。

weixin_43199439的博客 1448

极智芯 | 解读自动驾驶芯片之特斯拉FSD系列

大家好,我是极智视界,本文分享一下 解读自动驾驶芯片之特斯拉FSD系列。希望我的分享能对你的学习有一点帮助。

极智视界 1037

特斯拉员工年薪曝光:软件工程师 109 万元

点击上方 "编程技术圈"关注,星标或置顶一起成长后台回复“大礼包”有惊喜礼包!每日英文The road ahead is still a long way, you ma...

程序员小乐 4200

10分钟快速搭建OpenClaw(基于Windows+飞书)

OpenClaw 是一款功能强大的 AI 智能体工具,能够帮助用户管理邮件、日历等日常事务。本文详细介绍了在 Windows11 系统上安装和配置 OpenClaw 的完整步骤,包括 Node.js 环境搭建、Git 安装、OpenClaw 部署以及飞书机器人创建与对接。通过简单的命令行操作和可视化界面配置,用户可以快速完成 AI 助手部署,实现智能办公自动化。文中还提供了飞书机器人权限设置等关键环节的图文指引,帮助用户轻松完成系统集成。

Hello, New World! 2929

发掘 CPU 与超级工厂的共性,程序员的心思你别猜

来源 | 码农的荒岛求生责编 | 寇雪芹头图 | 下载于ICphoto18世纪流水线的诞生带来了制造技术的变革,人类当今拥有琳琅满目物美价廉的商品和流水线技术的发明密不可分,因此当你喝着可...

优快云云计算 299

如何在TRAE(国际版)中搭建ESP-IDF环境以及怎么使用ESP-IDF插件编译烧录到ESP32s3中

点击进入,再点击ESPRESSIF中的EXPRESS,这里会下载ESP-IDF所需要的全部工具和包等等。首先我们从终端中进入项目所在的目录中,我的项目在E盘下的jikecode\esp32s3-client中,我就进入这个目录下。,因为我的项目是针对ESP32-S3进行开发的,所以这里的芯片型号是esp32s3,大家根据各自芯片的型号来输入。执行了这个命令后,ESP-IDF会自动配置与ESP-S3相关的编译选项,生成对应芯片的配置文件。进入第一个ESP-IDF插件,进行安装,注意安装的是。

一个爱折腾技术的普通人,分享踩过的坑、学到的干货。 1510

Windows11家庭版开启虚拟化与WSL安装操作手册

Windows 11 家庭版完全支持 WSL 2,无需升级到专业版即可享受 Linux 开发环境。通过本手册介绍的步骤,您可以顺利安装和配置 WSL,并掌握系统更新后的维护技巧。WSL 为开发者提供了在 Windows 环境下使用 Linux 工具链的便利,尤其适合需要跨平台开发的场景。随着使用深入,您会发现 WSL 生态系统的强大之处,它不仅能提高开发效率,还能让 Windows 用户体验到 Linux 的强大功能。建议定期查看微软官方文档,了解 WSL 的最新功能和最佳实践。

m0_54846764的博客 3029

[自动驾驶 SoC]-4 特斯拉FSD

特斯拉FSD计算机架构:- 双冗余SoC,冗余电源:每个SoC拥有独立的电源和操作系统,确保高可靠性。- 传感器输入:包括IMU、雷达、GPS、超声波传感器、轮速计、转向角和地图数据。- 8个外部摄像头和12个超声波传感器:同时将数据输入两个FSD芯片。- 独立处理:两个芯片独立生成车辆未来行动计划,并交由安全系统进行比较和验证。

wendywm0496的博客 2037

【HEC】HECRAS中的降雨边界

网格降雨可能是城市地区建模的一个好选择。这是因为传统的一维(1D)建模并不能完全捕捉城市地区通常出现的复杂流动模式。使用网格降雨建模方法在构建包含多个未定义流动路径的模型时也非常有用。对于流量分支非常复杂的水道,设定边界条件可能会很困难。 HECRAS提供两种降雨边界添加的方法 - 在指定SA/2D FLOW AREA添加降雨边界 - 在hec-ras 6.0以上版本中 “气象数据” 的选项卡,可以添加具有空间变化的降水量、蒸散量和风。 两种方法只能选择一种,以下分别介绍

```On Earth, Be Water, By Coding``` 1401

从摩拜说到特斯拉

(1)2015年:共享单车每辆自行车都带有智能车锁,内置NB-IoT位置定位技术、数据传输技术,内置电池,外加一个唯一二维码。别看就这一个简单的小模块。你作为一个消费者,你可以在手机上直...

阿朱=行业趋势+开发管理+架构 357

【WRF实操】四层嵌套网格设计-以粤港澳大湾区GBA为例

四层嵌套网格设计-以粤港澳大湾区GBA为例

WW、forever的博客 822

【学前须知】推荐阅读顺序

AUTOSAR学习笔记专栏文章推荐阅读顺序

weixin_47571898的博客 748

跑分cpu_【新机】A14芯片最新跑分成绩曝光:3GHz主频,CPU/GPU提升20%丨特斯拉又双叒降价了...

前不久苹果正式发布了iPad Air 4,首发了5nm的A14芯片。官方表示CPU性能相比上一代提升了40%,GPU性能则提升了30%。不过这个是和A12对比,那么相较于A13到底提升了多少呢?此前安兔兔晒出了iPad Air 4的跑分成绩:跑分方面,总分为572333分,其中CPU成绩167527分,GPU成绩222071分,MEM成绩100808分,UX成绩则为81927分。对比iP...

weixin_39979215的博客 382

【面试系列】软件架构师 高频面试题及详细解答

本文介绍了软件架构师岗位的初级、中级和高级面试题及详细解答,涵盖了系统设计、面向对象设计、分布式系统、云计算技术、性能优化等关键领域。通过这些问题和解答,候选人可以深入理解软件架构师的核心职责和技能要求。此外,文章总结了在面试中需要掌握的常考知识点,包括架构模式、分布式系统管理、安全性、数据管理和DevOps实践。通过掌握这些知识点,软件架构师能够有效设计和指导复杂系统的结构,确保系统的可扩展性、性能和维护性。

在路上的专栏 852

特斯拉智能化路上的左脑+右脑

“种一棵树,最好的时间是十年前,其次是现在。” 特斯拉于去年3月份发布了基于Intel Atom(Apollo Lake)芯片的新版本多媒体控制器MCU2(MCU, Media Controller Unit),今年4月份发布了其自研SOC(System On Chip)的Autopilot硬件HW3(FSD,Full Self Driving)以支持将来实现全自动驾驶所需要的算力。多媒体控制...

曲奇泡芙 2513

基于DynamicHead的YOLOv8四头版本改进:面向复杂场景的多目标检测优化【YOLOv8】

YOLOv8的检测头是通过不同尺度的特征层输出检测结果。这些检测头通常包括三个:用于大物体、中等物体和小物体的检测。然而,这种单一结构可能会在复杂场景下失去针对性和灵活性,特别是当多个目标之间差异较大时。为了进一步提升模型在特定目标上的检测性能,DynamicHead的引入为我们提供了一个多检测头的优化方案。本文提出了一种基于DynamicHead的四头版本YOLOv8改进方案,以解决复杂场景下多目标检测的挑战。通过引入四个独立检测头,分别针对不同目标特征进行优化,实现了更灵活的检测结构。

博客 1719

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

AMD+特斯拉,从车载游戏“出发”

智能汽车芯片领域即将迎来一个具备极强竞争力的新“挑战者”。 数据显示,2020年AMD公司的股票上涨了100%。去年十月,这家芯片厂商宣布350亿美元收购赛灵思,至此可以提供业界最强大的高性能处理器组合,包括CPU、GPU、FPGA、SoC和软件能力,并瞄准适用于云、边缘和终端设备的高性能计算平台。 财务报告显示,2021年,AMD公司预计销售额将增长37%,达到134亿美元,毛利率为47%。2020年,该公司销售额为98亿美元,毛利率为45%。 此前有消息称,特斯拉计划在下一代旗舰车型Model S

高工智能汽车 596

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

上一篇: 假如你来发明编程语言
下一篇: 程序员到底为什么要掌握数据结构与算法?
码农的荒岛求生
博客等级 码龄10年 969粉丝 122原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值