DRL前沿之：End to End Learning for Self-Driving Cars

最新推荐文章于 2025-07-05 02:18:28 发布
最新推荐文章于 2025-07-05 02:18:28 发布
阅读量9.6k 收藏 12
点赞数 2
CC 4.0 BY-SA版权
分类专栏： Deep Reinforcement Learning Artificial Intelligence 深度增强学习DRL 文章标签： 深度学习 无人驾驶 nvidia
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/songrotek/article/details/51302515
NVIDIA的DAVE-2系统利用人类驾驶数据训练端到端的CNN，实现了仅凭摄像头输入就进行汽车控制。通过在车辆上额外安装摄像头并模拟3D变化生成错误样本，简化了训练过程。该系统未来有望结合增强学习进一步提升自动驾驶能力。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

前言

如果大家关注上个月Nvidia GTC，那么大家应该会注意到Nvidia 老大黄仁勋介绍了他们自家的无人驾驶汽车，这个汽车的无人驾驶技术和以往的方法不一样，完全采用神经网络。这个系统取名为DAVE。
NVIDIA GTC Self-Driving Car
上面的视频需翻墙观看。

很庆幸的是，就在上周，Nvidia发表了他们的文章来介绍这个工作：
http://arxiv.org/abs/1604.07316

虽然这个工作暂时和Reinforcement Learning没有关系，但是相信他们会加上增强学习是这个无人车具备自主学习提升的能力。

Abstract

这个工作的思路可以说超级的简单，就是使用人类的驾驶数据来训练一个端到端的卷积神经网络CNN。输入是车载摄像头，输出直接是汽车的控制数据。想来这个事情在以前恐怕是难以想象的，要知道当前最先进的自动驾驶系统依然是采用标志识别，道路识别，行人车辆识别，路径规划。。。各种步骤来实现的。而现在这些通通不用，就给汽车一个图像，让汽车根据图像做判断。想想这是一个非常神奇的事情，虽然根据CNN的能力我们可以理解这是可以做到的。

那么这件事大概当前也就Nvidia可以做，因为他们有最先进的硬件Nvidia DevBox，Nvidia DRIVE PX。

那么通过训练，他们在一定程度上取得了成功。结果很重要。训练出来之后，这意味着在未来，随着性能的提升，训练的进一步强化，以及使用增强学习，未来的无人车将具备完全自己思考的能力。

DAVE-2 系统结构

这个系统叫做DAVE-2，DAVE其实是（DARPA Autonomous Vehicle的缩写，无人车比赛最早就是DARPA搞出来的）。整个硬件系统如下：

最低0.47元/天 解锁文章

200万优质内容无限畅学
自动驾驶---End-to-end用于Planning行为规划
智能汽车人的博客
01-06 1674
从GPT4-V的表现总体来说，类似GPT4-V这种大模型用于自动驾驶决策还是很有前景的，当喂入海量的人类驾驶数据及场景图片，它的驾驶行为也会越来越智能，至于直接端到端到控制目前来看可能比较激进，以量产的角度来看，笔者认为用于自动驾驶行为规划是非常合适的。
End-to-end Driving via Conditional Imitation Learning 论文笔记
idestina的博客
06-04 1944
论文翻译参考：https://blog.youkuaiyun.com/weixin_40523230/article/details/90300337 一、为什么提出条件模仿学习 模仿学习应用在自动驾驶的弊端：经典模仿学习的目标函数如下公式（1），是一个observation->action的映射，可以解决道路追踪的问题，但是在复杂环境中是很难的，因为同样的环境转向或者控制可能不同，比如同样在一个十字路口，右转和左转取决于目的地，没有加条件的经典模仿学习训练出来的agent可能会在十字路口做出武断的决定，乘客
End to End Learning for Self-Driving Cars
08-18
无人驾驶技术，
端到端深度学习在自动驾驶汽车上的应用
happytofly的博客
09-01 1157
原文：End-to-End Deep Learning for Self-Driving Cars 翻译：KK4SBB 责编：周建丁（zhoujd@youkuaiyun.com） 在最近的一款汽车应用产品中，我们用卷积神经网络（CNNs）将车前部摄像头捕捉到的原始像素图映射为汽车的方向操控命令。这种强大的端到端技术意味着，只需要人们提供少量的训练数据，系统就能自动学会驾驶技术，无论有没有车道...
【AI概念】端到端学习（End-to-End Learning）vs. 分阶段学习（Pipeline Learning）|定义、核心原理、数学表达、优缺点系统对比与工程选择建议|实际案例、工程实现细节
最新发布
AI人工智能爱酱～你的AI学习好帮手～
07-05 861
大家好，我是爱酱。本篇将会深入梳理端到端学习（End-to-End Learning）与分阶段学习（Pipeline Learning）这两个常被混淆的机器学习范式，结合数学公式、工程案例与优缺点，帮助你彻底厘清两者的本质区别与联系。 注：本文章含大量数学算式、详细例子说明及大量代码演示，大量干货，建议先收藏再慢慢观看理解。新频道发展不易，你们的每个赞、收藏跟转发都是我继续分享的动力！
端到端自动驾驶经典研读：End to End Learning for Self-Driving Cars
选好坑 挖好坑 才会结出好的果子
03-02 4118
Bojarski, M., et al., End to end learning for self-driving cars. arXiv preprint arXiv:1604.07316, 2016. 摘要 我们训练了一个卷积神经网络（CNNs），将车前部摄像头捕捉到的原始像素图映射为汽车的方向操控命令。研究表明了这种的端到端技术被证明具有巨大的潜力：只需要提供少量的训练数据，系统就能自动学会驾驶技术，无论是否有车道标志线，无论是在普通公路还是高速公路。该技术还可应用在视线不清晰的区域，比如停车场或者
论文理解【IL - BC】—— End to End Learning for Self-Driving Cars
佚失的诗篇
09-26 1506
论文理解 —— End to End Learning for Self-Driving Cars
深度学习-End to End自动驾驶
数据笔记
07-18 4241
下面内容从端到端的自动驾驶的方案看相关技术脉络：   1988年，ALVINN: An Autonomous Land Vehicle In a Neural Network    已经有人开始尝试使用End-to-End。但局限于30×32像素，还没有CNN，这样也能在简单道路上实现自动驾驶。 方案： 采用全连接神经网络，输入viedo和laser range finder作为输入。...
lecture1 Introduction to Deep Learning and Self-Driving Cars.zi
10-02
3. 路径规划与决策：深度强化学习（Deep Reinforcement Learning, DRL）被用于训练自动驾驶汽车在复杂环境中进行决策，如避免碰撞、遵守交通规则和选择最优行驶路径。 4. 驾驶行为模仿：通过深度学习模型学习大量...
DRL前沿之：Benchmarking Deep Reinforcement Learning for Continuous Control
Flood Sung的专栏
04-27 6991
前沿Deep Reinforcement Learning可以说是当前深度学习领域最前沿的研究方向，研究的目标即让机器人具备决策及运动控制能力。话说人类创造的机器灵活性还远远低于某些低等生物，比如蜜蜂。。DRL就是要干这个事，而是关键是使用神经网络来进行决策控制。因此，考虑了一下，决定推出DRL前沿系列，第一时间推送了解到的DRL前沿，主要是介绍最新的研究成果，不讲解具体方法（考虑到博主本人也没办法
DRL_Navigation：Udacity深度强化学习课程的第一个项目
02-15
DRL_Navigation Udacity深度强化学习课程的第一个项目 ## Setup环境此项目是由Anaconda开发的，建议在使用它的同时进行相同的操作。 要创建新的conda环境，请运行以下conda create --name drlnd python = 3.6 ...
Gazebo-DRL-Navigation:这是由Gazebo构建的DRL平台，用于机器人导航
05-01
本项目“Gazebo-DRL-Navigation”专注于利用深度强化学习（DRL）来实现机器人的自主导航，这是一项结合了现代计算机视觉、人工智能和机器人学的技术。本文将深入探讨Gazebo在DRL导航中的应用以及与C++编程语言的关联...
行为克隆（End to End Learning for Self-Driving Cars 论文翻译）
weixin_43255962的博客
12-30 4029
摘要：我们训练了一个卷积神经网络(CNN)来将原始像素从一个向前倾斜的摄像头直接映射到转向指令。事实证明，这种端到端的方法非常强大。通过最少的人类训练数据，该系统学会了在有或没有车道标记的地方道路和高速公路上驾驶。它还在一些视觉引导不清晰的区域开展业务，比如停车场和未铺设的道路上。 该系统只以人的转向角作为训练信号，自动学习必要的过程步骤的内部表示，如检测有用的道路特征。我们从未明确地训练它去探测...
自动驾驶：End-to-end Learning
绕池闲步看鱼游，正值儿童弄钓舟。
04-10 3555
End-to-end Learning of Driving Models from Large-scale Video Datasets简介采用基于感知的策略学习（perception-based policies）来完成复杂的自动驾驶行为，正在称为计算机视觉的一个重要研究方向。作者认为，虽然基于规则的方法取得了一定的成果，但是基于学习的方法才是终极方案，尤其是在处理复杂少见场景以及需要和多个ag
[论文笔记]End-to-end Driving via Conditional Imitation Learning
weixin_43146899的博客
12-07 779
End-to-end Driving via Conditional Imitation Learning ​ 模仿学习的一个假设: 最优的动作可以由观察推断出来。但是实际显然是不成立的，就好比在面对十字路口时，单凭摄像头图像不足以得出汽车改左转、右转还是直行。从数学函数的角度来说，输入的图像到输出的控制不再是一一映射了。所以单单使用神经网络处理会遇到困难，导致震荡。就算神经网络可以解决一些模糊性，但也可能得不到人类想要的结果。 ​ 本文采用一个条件模仿学习来解决这个问题。在训练时，模型不仅
【论文翻译】End-to-end Driving via Conditional Imitation Learning
weixin_40523230的博客
05-18 1873
I. INTRODUCTION 为什么模仿学习没有扩展到完全自主的城市驾驶？模仿学习的一个假设是：最优action可以直接从observation中推断出来。但实际上这个假设并不成立，比如说：“当汽车接近十字路口时，摄像机的图像不足以预测该汽车应该左转、右转还是直行”。从数学上讲，从图像到控制命令的映射不再是一对一的函数映射。因此，用神经网络处理时候会遇到困难，导致震荡。就算神经网络可以...
论文翻译 Deep Steering: Learning End-to-End Driving Model from Spatial and Temporal Visual Cues
weixin_40262703的博客
03-25 635
???? ：该翻译主要用Google翻译然后微调，自学用。原文目前发现有3处单词错误，感兴趣的话可以去找找。该翻译不含图片和公式，仅作参考，欢迎交流。 论文链接：Deep Steering: Learning End-to-End Driving Model from Spatial and Temporal Visual Cues 该文章发布于VSCC'17的名字略有不同：Learning End-to-End Autonomous Steering Model from Spatial and Te
[实践项目]Udacity self-driving-car-sim
Hali_Botebie的博客
03-21 2883
Udacity通过开源协议授权公开了它的自动驾驶汽车模拟器，有 Unity 技术背景的任何人都可以利用此模拟器的资源，载入软件内置场景或创建自己的虚拟测试路线。 主要用于教授学生如何使用深度学习，训练无人驾驶汽车。 这个平台算是这些个开源平台中最简单的 项目地址：Welcome to Udacity’s Self-Driving Car Simulator https://github.com...
[论文笔记]Probabilistic End-to-End V ehicle Navigation in Complex Dynamic Environments with Multi
weixin_43146899的博客
12-07 884
Probabilistic End-to-End V ehicle Navigation in Complex Dynamic Environments with Multimodal Sensor Fusion 本文提出了一个具有多模态感知能力的基于模仿学习的概率驾驶模型。 作者认为之前的一些端到端驱动得方法存在三个不足： ·纯相机在很多情况下不鲁棒，所以得加入雷达 ·非确定性是控制的关键，没有很好地探索可执行行动的概率本质，大多数决策输出确定性命令到车辆 ·自动驾驶的评价应该放在在线评估而不是离线评估
(zjfenv) C:\Users\JinfeiZhao>python D:\zjf\End-to-end-DRL-for-FJSP-main\End-to-end-DRL-for-FJSP-main\FJSP_MultiPPO\PPOwithValue.py D:\zjf\End-to-end-DRL-for-FJSP-main\End-to-end-DRL-for-FJSP-main\FJSP_MultiPPO\mb_agg.py:25: UserWarning: expandable_segments not supported on this platform (Triggered internally at C:\actions-runner\_work\pytorch\pytorch\builder\windows\pytorch\c10/cuda/CUDAAllocatorConfig.h:28.) elem = torch.full(size=(batch_size[0]*n_nodes, 1), D:\zjf\End-to-end-DRL-for-FJSP-main\End-to-end-DRL-for-FJSP-main\FJSP_MultiPPO\mb_agg.py:44: UserWarning: torch.sparse.SparseTensor(indices, values, shape, *, device=) is deprecated. Please use torch.sparse_coo_tensor(indices, values, shape, dtype=, device=). (Triggered internally at C:\actions-runner\_work\pytorch\pytorch\builder\windows\pytorch\torch\csrc\utils\tensor_new.cpp:653.) graph_pool = torch.sparse.FloatTensor(idx, elem, D:\zjf\End-to-end-DRL-for-FJSP-main\End-to-end-DRL-for-FJSP-main\FJSP_MultiPPO\FJSP_Env.py:187: UserWarning: Creating a tensor from a list of numpy.ndarrays is extremely slow. Please consider converting the list to a single numpy.ndarray with numpy.array() before converting to a tensor. (Triggered internally at C:\actions-runner\_work\pytorch\pytorch\builder\windows\pytorch\torch\csrc\utils\tensor_new.cpp:281.) self.adj = torch.tensor(self.adj) Traceback (most recent call last): File "D:\zjf\End-to-end-DRL-for-FJSP-main\End-to-end-DRL-for-FJSP-main\FJSP_MultiPPO\PPOwithValue.py", line 472, in <module> main(1) File "D:\zjf\End-to-end-DRL-for-FJSP-main\End-to-end-DRL-for-FJSP-main\FJSP_MultiPPO\PPOwithValue.py", line 343, in main env_adj = aggr_obs(deepcopy(adj).to(device).to_sparse(), configs.n_j * configs.n_m) ^^^^^^^^^^^^^^^^^^^^^^^^ torch.OutOfMemoryError: CUDA out of memory. Tried to allocate 176.00 MiB. GPU 0 has a total capacity of 79.55 GiB of which 143.38 MiB is free. Of the allocated memory 77.69 GiB is allocated by PyTorch, and 909.0
03-26
for i, data in enumerate(dataloader): loss = compute_loss(data) loss.backward() if (i+1) % accumulation_steps == 0: optimizer.step() optimizer.zero_grad() ``` 3. **混合精度训练** - 使用`torch...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值