引言:端到端自动驾驶的范式转移与底层架构重构
自动驾驶技术正经历一场深远且不可逆转的范式转移,其核心轨迹是从传统的启发式模块化架构(感知、预测、规划物理分离)向数据驱动的端到端(End-to-End, E2E)神经网络架构演进。传统模块化系统通过工程师手动设计的显式接口传递中间表征信息,诸如三维边界框、语义地图轮廓以及轨迹航点。这种“分而治之”的设计在过去十年中主导了工业界,其优势在于各个模块具有良好的可调试性与白盒可解释性。然而,随着自动驾驶向更复杂的城市开放道路推进,模块化架构的固有缺陷暴露无遗:上游感知模块的信息损耗在向下游传递时不可避免地导致误差级联累积,且手工制定的规则极其容易在无限的真实世界长尾场景(Corner Cases)中遭遇组合爆炸而失效。
相比之下,端到端架构将传感器原始数据(如多视角摄像头视频序列流、激光雷达点云)直接映射为车辆底盘控制指令或高维规划轨迹,由统一的神经网络在全局范围内进行联合优化。业界标杆的系统迭代直观地反映了这一技术趋势。特斯拉(Tesla)在 Full Self-Driving (FSD) 系统的演进中,在 v12 版本完成了底层代码的重构,彻底移除了过去高达 30 万行用于硬编码交通规则的 C++ 逻辑代码,转而采用纯数据驱动的神经网络控制器。这种端到端范式通过摄入数以百万计的人类优秀驾驶视频,使模型能够隐含地学习复杂的驾驶直觉。而在随后的 v13 版本中,架构进一步向“时序体素(Temporal-Voxel)” Transformer 模型演进,强化了长期记忆的保留,有效解决了早期版本中由于单帧快照处理方式导致的物体闪烁(Object Flickering)与状态遗忘问题。
端到端模型的崛起不仅仅是网络结构的简化,更伴随着视觉-语言-动作(VLA)大模型的引入。基础模型将自主车辆的决策空间与自然语言处理对齐,不仅在开环基准测试中超越了传统算法,在闭环仿真部署中也展示出了前所未有的常识推理与泛化能力。本报告将深入剖析端到端自动驾驶系统在车端感知、决策智能体演进、硬件异构计算平台部署、数据闭环引擎以及安全责任评估体系等维度的实战技术与前沿理论进展。
车端感知与大统一环境表征重构
在端到端自动驾驶模型中,如何高效、准确且在严苛的计算约束下表征三维物理世界,是系统设计的基础。鸟瞰图(Bird's-Eye View, BEV)与体素化占用网络(Occupancy Networks)凭借其与车辆运动学坐标系的天然契合,已成为多模态数据融合的通用语义空间。
BEV 架构的几何优化与时序一致性
早期的逆透视变换(IPM)方法依赖简单的几何单应性矩阵,在平坦路面假设下运作,计算速度极快,但在面对具有高度的三维障碍物时会产生严重的像素拉伸与失真畸变。随后出现的 Lift-Splat-Shoot (LSS) 架构通过显式的深度概率分布预测,将 2D 图像特征“提升”到 3D 截锥体空间,并“投影”至 BEV 栅格,此举虽解决了畸变问题,但高度依赖密集的深度真值监督,且推理开销巨大。目前工业界主导的感知范式是基于 Transformer 的架构,其利用时空交叉注意力机制隐式地完成从透视图到 BEV 的视角转换。
然而,动态复杂交通场景下的 BEV 感知仍面临三大底层误差源:图像到 BEV 提升过程中的深度噪声放大、时间推移及遮挡导致的表征不连续,以及历史特征循环融合带来的时序漂移。为应对这些几何与时序歧义性,业界提出了多种架构增强方案。例如,TriQuery-BEV 框架通过引入深度调制混合位置编码(DM-HPE)强化几何感知,结合时序查询滤波器(TQF)和基于不确定性建模的查询掩码(QM),在 nuScenes 数据集上使 ResNet-101 基线模型的平均平移误差(mATE)下降了 6.5%,平均速度误差(mAVE)大幅下降了 15.0%,验证了时序一致性对动态障碍物状态估计的决定性作用。
此外,在表征学习层面,BEV 空间不仅用于检测特定物体,其特征本身的丰富度也至关重要。BEVCon 等研究提出了一种轻量级的对比学习框架,通过实例级特征对比与透视图对比模块,在不依赖特定任务头的情况下强化了 BEV 编码器的通用特征表达,在 nuScenes 上实现了高达 2.4% 的平均精度(mAP)提升。为了弥补单目视觉在绝对测距上的先天不足,部分系统还尝试将先验的高精地图(HD Map)信息映射回透视图进行深度调制,以此构建几何和语义双重鲁棒的特征基底。
栅格化(Rasterized)与矢量化(Vectorized)表征的路线之争
在确定了 BEV 作为基本空间后,端到端系统内部的场景表征方式出现了栅格化与矢量化两条截然不同的技术演进路线。
UniAD 代表了早期的栅格化端到端集大成者,它在统一的 BEV 特征网格上共享底层表征,并依次串联检测、跟踪、建图、运动预测和规划模块,通过联合反向传播克服了误差累积。尽管 UniAD 在任务间的信息交互上取得了突破性进展,但其高度依赖密集的栅格化场景表征(如高维语义图或空间占用图),导致算力消耗与内存带宽面临巨大压力,这在边缘部署环境中常常成为系统瓶颈。
为了突破这一算力瓶颈,VAD(Vectorized Autonomous Driving)提出了一种全矢量化的场景表征范式。VAD 彻底摒弃了计算密集的栅格渲染及复杂的手工后处理步骤,将地图拓扑、自车状态与周边交通参与者统一建模为实例级的抽象矢量折线(Polylines)。通过设计自车查询(Ego Query)与智能体查询、地图查询在 Transformer 架构内的隐式交互,并结合自车车道方向一致性、道路边界不越界等矢量级物理学与几何约束,VAD 在推理效率与规划安全性上实现了双重飞跃。
| 模型名称 | 场景表征维度 | nuScenes 规划位移误差 (L2, 1s) | 平均碰撞率 (1s) | 推理帧率 (FPS) | 测试硬件基准 |
|---|---|---|---|---|---|
| ST-P3 | 密集栅格化 (Dense Rasterized) | 1.33 毫米 | 0.23% | 1.6 | NVIDIA RTX 3090 |
| UniAD | 密集栅格化 (Dense Rasterized) | 0.48 毫米 | 0.05% | 1.8 | NVIDIA Tesla A100 |
| VAD-Base | 全矢量化 (Fully Vectorized) | 0.41 毫米 | 0.07% | 4.5 | NVIDIA RTX 3090 |
| VAD-Tiny | 全矢量化 (Fully Vectorized) | 0.46 毫米 | 0.21% | 16.8 | NVIDIA RTX 3090 |
实证数据表明,与先前的 UniAD 相比,VAD-Base 不仅在开放循环的 nuScenes 数据集上将平均规划位移误差降低了 30.1%(从 1.03m 降至 0.72m,综合长期评估),其推断速度更是达到了前者的 2.5 倍。而针对资源受限平台设计的轻量级变体 VAD-Tiny,在保持极低碰撞率(0.38%)的前提下,实现了惊人的 9.3 倍加速比,充分证明了将结构化语义提炼为实例级矢量表征,是通向量产级车端部署的一条高效路径。
决策智能体:从确定性回归到语言辅助的概率规划
传统的端到端模型大多采用确定性回归(Deterministic Regression)的监督学习方式,系统接收到传感器输入后,试图在连续坐标空间中回归出一条唯一的、理论上最优的控制序列。然而,真实世界的驾驶行为具有极高的多模态性与非确定性特征。面对同一个复杂的交叉路口,人类驾驶员可能选择加速超越、匀速跟随或变道避让,这些均为合理的行为闭环。当模型遭遇此类具有非凸动作空间(Non-convex Action Space)的场景时,确定性回归模型由于目标函数的特性,极易预测出所有合理轨迹的“数学平均值”,从而导致车辆撞向隔离墩或偏离车道等物理上极不合理且危险的行为。
为了系统性地解决决策不确定性问题,并赋予自动驾驶系统更强的人类常识推理能力,工业界与学术界正在推动决策智能体架构向基于动作词表的概率规划以及基于图结构的大语言模型(LLM)推理演进。
VADv2 与概率分布规划场
VADv2 从大型语言模型(LLM)基于上下文预测下一个字符概率分布的机制中汲取灵感,创新性地引入了概率规划(Probabilistic Planning)范式。该模型不再强求神经网络输出一条固定的轨迹,而是将规划策略建模为一个受环境条件制约的非平稳随机过程。
在具体工程实现上,VADv2 摒弃了连续回归,转而将高维的时空动作空间离散化为一个包含 N=4096 条代表性轨迹的庞大“规划词表”(Planning Vocabulary)。这些轨迹锚点并非随机生成,而是通过对数百万人类驾驶演示数据执行最远点轨迹采样(Furthest Trajectory Sampling)构建而成,从算法底层确保了词表内的每一项动作均符合车辆的动力学可行性与物理学极限约束。在正向推理过程中,每条候选轨迹首先通过正弦位置编码函数映射为高维的规划 Token 嵌入向量,并作为查询因子输入级联的 Transformer 解码器中与环境场景 Token 进行深度交互。
最终,模型输出的是覆盖整个动作空间的一组似然得分概率场(Probabilistic Field Function),并在实际控制时根据该分布进行动作采样。在训练监督层面,VADv2 采用 Kullback-Leibler (KL) 散度损失,促使预测分布去拟合人类演示的数据分布。尤为关键的是,模型引入了强烈的“冲突损失”(Conflict Loss),针对词表中任何违反静态道路边界或导致智能体碰撞的负样本动作施加极高的损失权重,从而在概率分布模型内部硬编码了安全常识先验。
基于图结构问答与视觉-语言-动作(VLA)模型的推理革命
除了在纯视觉轨迹级表征上取得突破外,将具备庞大知识参数库的视觉-语言模型(VLM)引入端到端系统,以增强零样本泛化能力和系统可解释性,构成了另一条核心技术主线。
在这一前沿领域,Waymo 提出了 EMMA(End-to-end Multimodal Model for Autonomous driving),该模型将非传感器输入(如导航指令、自车状态)以及规划输出(如 3D 定位坐标、预测轨迹)全部统一表征为自然语言文本。利用预训练多模态大型语言模型的深厚世界知识库,EMMA 能够在一个共享的语言语义空间内联合处理复杂的驾驶任务,在 nuScenes 等基准上刷新了运动规划的纪录。
与此同时,DriveLM 将语言推理的深度推向了新的层级。传统的单轮视觉问答(VQA)无法体现人类驾驶员在复杂场景下层层递进的思维链路。为此,DriveLM 提出了基于图结构的视觉问答(Graph VQA)任务。该模型不再视驾驶为一种反射式映射,而是模拟人类“感知 -> 预测 -> 规划”的多步递进逻辑,将场景推理构建为一张包含感知对象属性、运动意图、碰撞概率乃至反事实“What if”推演的有向无环图。由于图网络边缘蕴含了严格的逻辑依赖关系,大模型的常识推理能力被严密地约束在物理规律之内。
在可解释性层面,学术界如 Hint-AD 研究敏锐地指出了“声明式可解释性”(Declarative Interpretability)与“对齐式可解释性”(Aligned Interpretability)的本质差异。以往纯粹依靠 VLM 生成的解释文本往往游离于控制决策之外,仅仅充当“事后诸葛亮”的角色。为了建立真正的系统信任,Hint-AD 引入了整体化对齐任务,将语言解码器的生成直接锚定在 UniAD 或 VAD 模型中间提取的隐式查询 Token(如感知 Token、运动 Token)上,迫使语言输出必须忠实于端到端模型自身的特征推理张量,大幅提升了对黑盒自动驾驶模型的解构与诊断能力。
异构计算硬件与模型级部署实战
不论上层端到端模型的架构设计多么精妙,若无法在严苛的算力限制、内存带宽上限、功耗壁垒以及极低的端到端控制延迟要求下完成车端边缘计算芯片的部署,便只能停留在学术仿真阶段。模型压缩、自定义算子融合以及针对特定计算架构(CPU、GPU、NPU 异构)的底层编译优化,构成了自动驾驶工程部署的核心挑战。
NVIDIA DRIVE 平台体系与 TensorRT 的量产级优化
NVIDIA DRIVE 平台系列(包括广泛搭载的 Orin 平台,以及面向未来高阶自主驾驶的 Thor 平台)构成了当今 E2E 自动驾驶演进的核心算力基座。采用全新 Blackwell 架构的 DRIVE AGX Thor 车载计算平台,算力实现了惊人的跨越,能提供超过 1,000 INT8 TOPS 的张量加速计算能力。这极大地拓展了车载 AI 的边界,使其能够单芯片同时支撑复杂的大型视觉-语言-动作(VLA)模型、超大参数端到端控制流以及舱内生成式 AI 助手,实现了从感知融合到规划控制的纯板载闭环。
在相应的系统软件栈层面,NVIDIA 提供了高度定制化的 DriveOS LLM SDK 与 TensorRT 推理引擎底座。然而,部署基于前沿 Transformer 的 E2E 大模型时,往往会遭遇急剧膨胀的内存消耗和定制网络算子缺失的双重阻碍。例如,在部署先进的感知架构 Deformable DETR 时,其关键组件多尺度可变形注意力(Multi-Scale Deformable Attention)操作由于在特征图上呈现高度不规则且数据依赖的内存访问模式,无法像传统卷积那样利用缓存命中进行加速。为了攻克这一瓶颈,算法工程师必须跳出高层框架,在底层使用 C++ 深度定制 TensorRT 插件(如 MultiscaleDeformableAttnPlugin_TRT),并将其注册到 Torch-TensorRT 动态转换器中。若缺失此步骤,计算图在推理时将发生严重的执行回退(Fallback to CPU),打破计算流水的并行性,进而拖垮整个系统的处理帧率。
类似的硬件友好型算子重构技术在 FlashBEV 研究中展现出巨大的工程价值。在以往的 BEV 视角转换中,体素池化(Voxel Pooling)操作随高度离散区间(Height Bins)的增加会导致 GPU 显存呈现爆炸式几何级增长。通过将该算子封装为 TensorRT C++ 插件,FlashBEV 创造性地以“通道维度重计算(Recomputation)”取代了庞大中间张量的内存存储,在 FP32 精度下确保了显存占用峰值恒定于 O(BCXY) 的低复杂度。这一重构不仅避免了设备级 Out-of-Memory (OOM) 崩溃崩溃,更令模型在高分辨率栅格上获得了成倍的推理延迟优化。进一步结合 Embedl 等 SDK 的结构化网络剪枝与低比特量化(如 INT8 乃至 FP8 E4M3 格式转换),系统能在维持精度损失低于 1% 的绝佳状态下,在诸如 Jetson AGX Orin 这样的边缘设备上榨取出 4 倍的速度提升与超越 2 倍的能耗骤降。
地平线 Journey 6 架构与 BPU 的软硬协同深水区
在全球芯片供应链地缘博弈的背景下,地平线(Horizon Robotics)发布的 Journey 6(征程 6)系列芯片凭借卓越的性能释放比,成为了高阶端到端自动驾驶的强劲引擎。Journey 6 家族通过提供从 J6B(入门主动安全)到 J6P(旗舰全场景 NOA)的阶梯状六款配置,精确覆盖了市场的细分需求。其中,基于台积电 7nm 工艺制造的旗舰款 J6P 集成了 370 亿个晶体管,搭载了拥有 18 核 CPU 计算簇及最新一代 Nash BPU(Brain Processing Unit)的异构多核架构,能够提供 560 TOPS 的等效算力与 204 GB/s 的超高内存带宽,性能直指跨代架构产品。
Nash BPU 架构在设计哲学上的核心突破,在于彻底贯彻了软硬深度协同优化的理念。它在底层寄存器及算子电路级别原生适配了大参数量 Transformer 模型的矩阵乘加运算与 E2E 规划模型特性。配合其独立研发的 OpenExplorer 算法工具链与天工开物(Tiangang Kaiwu)开发平台,开发者能够以极低的门槛实施训练感知量化(QAT)、训练后量化(PTQ)以及基于芯片硬件特性的计算图编译层深度调优。得益于底层硬件与上层模型的严密契合,Nash BPU 在处理复杂自动驾驶算法时的等效计算资源利用率可高达 85%,远超传统 GPU 架构 30%-40% 的平均水平,构建了坚实的能效比护城河。这种极端的能效优化产生的直接市场效应是:依托具备 128 TOPS 算力的单颗 J6M 芯片,车企即可完整实现过去需要数颗高算力芯片堆叠才能运行的城市无图记忆导航(Urban NOA)与端到端复杂博弈模型,首次打通了高阶智能驾驶方案向 10 万人民币级别大众化车型下放的通道,重塑了智能汽车的供应链格局。
华为 MDC 平台与 MindSpore 软件栈的全栈自主生态
与之并肩前行的是华为的 Qiankun ADS 3.0 系统,该系统构筑了涵盖感知硬件、车载计算平台以及操作系统底座的全栈自主生态。在架构迭代上,ADS 3.0 从早期的 BEV 范式跃迁至“GOD(通用障碍物检测)网络与 PDP(预测决策规划)网络”深度耦合的全新端到端形态。GOD 网络打破了传统监督学习严格依赖目标“白名单(Whitelist)”的桎梏,利用高精度融合感知实现对异形目标的通用拦截,配合全向防碰撞系统(CAS 3.0)与车位到车位(Parking-to-Parking)无缝导航巡航,赋予了系统极强的人类级决策拟合能力。
作为承载这些庞大算法的车载算力中心,华为 MDC(Mobile Data Center)融合了自研的 Ascend(昇腾)AI 处理器内核。而在更为底层的 AI 框架设计上,华为推出了完全自主开源的 MindSpore 深度学习操作环境。为了打破大规模训练所面临的墙式壁垒,MindSpore 构建了跨越“端-边-云”流转的敏捷协同机制,通过源码级自动微分(Source-to-Source)不仅避免了复杂的计算图重写,还在其最新版本中引入了惊艳的统一自动并行化策略。该机制在底层无缝交织了数据并行、模型切片并行以及细粒度的算子级并行策略。在现实的行业攻坚战中,这种深度耦合 Ascend 硅片与 CANN(Compute Architecture for Neural Networks)指令集架构的技术栈产生了巨大的战略红利:以智谱 AI(Zhipu AI)为代表的国内顶尖实验室,在完全摒弃对国际主流算力 GPU 依赖的绝境下,仅依托 10 万颗昇腾芯片集群与 MindSpore 的调度,成功训练出参数量高达 7450 亿的 GLM-5 前沿大语言模型,并展示了这些模型在端侧压缩与自动驾驶意图解析上的无限潜能,标志着全栈自主化 E2E 自动驾驶时代的到来。
数据飞轮引擎:从被动采集到多模态闭环演进
数据质量与覆盖广度是决定端到端自动驾驶模型智能上限的唯一燃料。当前的行业共识已从早期的“粗放式算力与里程堆砌”,转型升级为基于“数据飞轮(Data Flywheel)”理论的精细化、自动化的闭环演进体系建设。
影子模式(Shadow Mode)与聚类感知主动学习
为了攻破制约 L4 级自动驾驶量产的长尾场景(Corner Cases)魔咒,头部车企广泛依赖百万级量产车队构建了被动与主动结合的“影子模式”(Shadow Mode)系统。在影子工作状态下,部署于车端的神经网络在后台静默运行并持续生成预测性行驶轨迹。一旦云端模型推演的虚拟轨迹与人类驾驶员在极具挑战性环境下的实际操作(如接管方向盘、紧急制动、规避障碍)出现显著的几何分歧与意图发散,车端触发器便会自动截取该时间窗口的多传感器数据帧序列,将其打包并附加上下文标签,异步回传至云端数据中心。这一由真实世界反馈所驱动的机制被行业巨头视为最难被竞争对手克隆的核心壁垒。
然而,随着车队规模的呈指数级扩张,海量回传数据的存储、标注及计算资源成为了新的瓶颈。主动学习(Active Learning)由此介入闭环流程。通过评估模型输出分布的预测不确定度,主动学习算法可以精准筛选出对当前模型权重信息增益最高的高价值片段。更进一步,针对真实数据与庞大仿真合成数据共同构建的联合训练池,直接按比例随机混合往往会导致模型出现灾难性的领域分布偏移(Distribution Shift)。为此,AutoScale 等框架引入了聚类感知的梯度上升法(Cluster-aware Gradient Ascent)。该方法不仅能够对宏观驾驶场景进行特征聚类,更能精确测算特定细分场景类别(如无信号灯环岛、密集雨天施工路段)在当前训练迭代中对降低验证集损失的边际贡献度,进而在极为有限的计算与标注预算下,实现数据样本混合权重的全局动态最优化。
世界大模型预训练、模型蒸馏与仿真反哺
面临云端服务器无穷尽的训练算力与车端有限推理平台之间不可调和的矛盾,模型知识蒸馏(Model Distillation)与自监督预训练(Self-Supervised Pre-training)成为了弥补这一鸿沟的关键路径。
在缺乏显式 3D 人工标注的情况下,PPGeo 研究团队利用海量且低成本的 YouTube 行车视频库,设计出利用光度误差(Photometric Error)进行几何监督的框架,迫使网络去隐含理解时空域内图像深度的变化与自车运动学的内在一致性,从而淬炼出极为健壮且可泛化的基础视觉表征。向更为深层的三维环境演化预测迈进,GASP 预训练模型通过预测连续的时空 4D 占用场(General Occupancy & Ego Occupancy),强迫神经网络在剥离所有显式标签体系的极限条件下,自主领悟环境物理几何边界随时间演化的核心规律,构建了真正意义上的隐式常识认知底座。
在模型落地环节,理想汽车(Li Auto)探索出了极具工程借鉴价值的 MindVLA 两阶段蒸馏架构。其首先在云端构建包含数百亿参数的庞大网络,利用基于强化学习(RL)的环境交互与内生的大模型思维链(CoT)逻辑推理能力,培养出一个拥有卓越泛化处理能力的“教师模型”。随后,系统利用该教师模型对大量真实与虚拟场景的响应结果作为伪标签真值,通过严格的知识蒸馏技术,将其对三维空间的理解能力与安全规划逻辑,无损地“压缩”进拥有仅仅 36 亿参数、针对车载算力平台高度剪裁与编译优化的轻量级“学生模型”中,实现了在体积与智能水平之间的完美平衡。相关的 DistillDrive 系列研究数据亦证明,通过融合激光雷达点云和复杂 VLM 认知能力的超级教师网络向基于纯视觉输入的轻量学生网络传递表征知识,能使学生网络在极度稀缺的长尾场景中的预测轨迹偏移误差缩小 37% 至 44% 之多。
不仅真实数据在飞轮中运转,高保真生成式仿真器正重塑数据的闭环回流。基于世界基础模型的仿真框架(如 DriveArena),将能够渲染无限长自回归视频帧的条件生成模型(World Dreamer)与物理精确的交通引擎(Traffic Manager)深度耦合。端到端智能体生成的控制轨迹不仅影响其自身的视觉前瞻视野,更实时传递给交通引擎去驱动周遭 NPC 车辆作出真实而动态的博弈响应,形成了一个无限嵌套且相互影响的高维度闭环虚拟竞技场,加速了那些在现实中测试成本极高或涉及危险碰撞边缘场景(Edge Cases)的试错收敛速度。此外,行业标准的日益开放化(如汇集了来自 34 个机器人实验室、覆盖 22 种具身智能形态且包含上百万轨迹数据的 Open X-Embodiment Dataset 及其衍生平台 OXAV),使得自动驾驶模型能够跨领域汲取具身智能交互数据,极大地增强了对不规则物体及未见环境的泛化适应力。
闭环验证评价体系与神经符号安全降级体系
随着端到端模型的内部运转机制愈发呈现出不可解析的“黑盒”属性,长期依赖于静态开环(Open-Loop)环境评估系统性能的方法逐渐显露出严重的“盲人摸象”弊端。在传统的开环测试中,模型仅仅试图拟合出一段固定历史切片下人类驾驶员的“唯一标准”轨迹动作,利用简单的轨迹均方误差(L2)与瞬时碰撞率来作为评估标尺。然而,这种机制根本无法映射真实控制流中的误差级联累积效应。更为荒诞的是,模型在面对分岔路口等非确定性环境时,输出的可能是一条异于历史演示但物理上绝对安全的微小偏离轨迹,却在开环评价体系的僵化刻度尺下遭受严重的虚假降分惩罚。
高保真闭环仿真与对抗性基准测试的重构
为了重建反映模型真实交互决策水准的黄金标尺,工业界与学术界正全力搭建强调多智能体长期互动与因果关联的高保真动态闭环仿真基准矩阵。
基于丰富的多城市驾驶日志,nuPlan 首创性地提供了反应式的长程规划交通流模拟环境。在其之上迭代出的 NAVSIM 挑战赛创新性地构建了 PDM 分数(Predictive Driver Model Score)体系。该体系并非机械对比轨迹偏移,而是从物理碰撞规避、行车平顺性与任务进展效率三大正交维度执行多尺度打分,历史性地达成了开环指标体系与闭环行驶体感间的宏观对齐。深入更为微观的单项驾驶技能体检,以 CARLA 为原生引擎底座打造的 Bench2Drive 规划了 44 种密集交互的极端长尾场景及 220 条专用考评干线,实现了对无保护路口盲区博弈、逆行避障等细微技能的切片扫描与量化对比。为了彻底消除手动撰写仿真剧本所带来的虚假机械感,DriveE2E 通过尖端的实景数字孪生技术(Real2Sim),将来自大规模真实路网监控基础设施收集到的十字路口动静资产 1:1 投影回仿真引擎中,构建出兼顾不可预见性与现实高逼真度的交互角斗场。
尤为残酷的是,目前的评测已经从单纯测试算法的策略正确性,下探至考验整个端到端系统架构抵御底层硬件病态输入的物理级强健性。Fail2Drive 平台专门聚焦于 OOD(Out-of-Distribution)分布外泛化能力,利用完全未见过的动物模型与被恶意遮挡的交通指示牌实施对抗性测试。Bench2Drive-Robust 更是引入了贴近量产车祸源头的系统级扰动因素集——相机视频帧率突发丢弃、GPS 局部定位震荡噪音漂移、以及控制底层指令发送过程中的 FIFO 堆栈延迟响应。严苛的测试揭露了一个令人担忧的真相:众多在理想闭环指标上表现出色的端到端深度模型,一旦遭遇传感器数据链的非线性降级,其系统鲁棒性便面临快速坍塌的灾难性危机。
责任敏感安全模型(RSS)与神经符号困境的突围
由于完全纯粹的端到端深度神经网络受其不可确证统计性质所限,从理论上根本无法自证其动作的绝对安全性并满足航空级的功能安全认证标准。面对生命攸关的驾驶场景与刻薄的司法审查要求,行业内的核心演进方向并非继续盲目扩张黑盒参数,而是在整个神经网络堆栈的输出神经末梢之下,强制嵌套并串联一个经过严格形式化证明的确定性安全降级内核(Safety Kernel)。这一策略被称为化解自动驾驶“神经符号困境(Neuro-symbolic Dilemma)”的黄金范式。
由 Mobileye(Intel 旗下)开发并开源的责任敏感安全模型(Responsibility-Sensitive Safety, RSS),完美契合了作为这一最后防线组件的要求。RSS 是一套从人类常识与侵权责任法则中提炼出的形式化数学约束框架,它将关于如何界定安全的主观直觉转化为不可逾越、高度数学化的牛顿力学包络边界条件。其核心哲学在于计算出一条确定的纵横向安全间距底线。例如,在针对最常见的动态车辆追尾碰撞危险场景时,RSS 从不尝试使用深度网络猜测前车动作,而是利用极度严密的运动学方程——同时将自车系统控制指令下发的响应时间延迟(Response Time)、自车执行机构的最大制动减速度(Maximum Braking Deceleration),以及假设前车随时可能施加的不合理极限减速度全部纳为计算变量,瞬时推演出随环境动态演进的纵向最小绝对安全距离 d_min。
在这一混合架构中,只要神经网络输出的高维规划航点与底层控制指令导致了预估状态跌破 d_min 警戒线,作为最高仲裁者的 RSS 安全调速器(Safety Governor)便会立刻夺取底层控制权实施拦截,强制覆盖原本的生成指令并要求车辆立刻转入符合法律定义的“适当响应(Proper Response)”(如平顺紧急刹停或退出接管状态)。当前,通过整合官方提供的 ad_rss C++ 解析库并融入车辆物理底盘与拓扑地图,自动驾驶开发商可以无缝地将其嵌入于实车运行或诸如 CARLA 这样的宏观仿真器之中,最终在具有海量创造性推理能力的连接主义神经网络,和守卫交通安全不可动摇之底线的符号逻辑法则之间,构建起完美而稳健的混合共生体系。在特斯拉(Tesla)向着无需接管的 FSD v13 和真正能通过欧美严苛 L4 法规测试的自动驾驶出租车(Cybercab)的演进历程中,同样可见此类被称为“安全盾(Safety Shield)”实时评估机制的身影,当网络的实时可信度或模型预测内部一致性分值滑落至 85% 阈值以下,系统将强行发出提前 5 秒接管请求,正是该混合安全架构理念从学术实验走向商业落地的鲜活注脚。
结论
端到端自动驾驶模型已确立了其在解决非结构化开放场景和长尾驾驶任务上的统治地位。从 UniAD 的栅格化统一框架到 VAD 的极致矢量化运行效率,再到 VADv2 开拓性地利用 4096 个词汇的动作词表应对规划不确定性的概率分布网络,场景表征与动作决策模型架构能力的突飞猛进,彻底清除了过去高并发子系统之间的通信壁垒。与此同时,以 NVIDIA Thor 和地平线 Journey 6 为代表的下一代车载智驾芯片底层算力的指数级跨越,搭配以 TensorRT 算子级深度优化和 MindSpore 异构大模型调度框架,使得将拥有千亿级参数量的语言辅助推理大模型(VLM)塞入一辆汽车后备箱的畅想化为了触手可及的工程现实。
展望未来五至十年,纯端到端系统若要真正撕去 L2+ “辅助驾驶”的免责标签,向着 L4 级及以上的无人化运行蜕变,其核心依然在于直面并攻克严峻的神经符号困境(Neuro-symbolic Dilemma)。系统一方面需要极度贪婪地依赖于基于影子模式反馈的数据闭环飞轮、合成仿真数据引擎及自监督知识蒸馏机制,不断拔高其探索泛化场景的智能天花板;另一方面,系统运行的绝对物理底层必须死死嵌合诸如 RSS 一类的确定性形式化安全包络内核,去死守那道不容有失的生命防护底线。随着诸如 DriveLM 和 EMMA 这样兼具时空直觉与世界逻辑常识增强语言模型的加速上车,新一代的端到端自动驾驶系统必将同时拥有宛若人类老司机般行云流水的博弈思考链路与冷酷无情且绝对精确的机器执行力,最终推动属于全人类的、具有真正高度安全冗余、认知能力和可解释性智能底座的无人驾驶大时代平稳着陆。

