下面有请清华大学车辆与运载学院副研究员、智能出行所副所长王红演讲，演讲主题是“场景下的智能驾驶预期功能安全决策”。

王红：各位专家、各位老师，大家上午好！非常荣幸受高老师和胡老师的邀请，今天有这次机会跟大家分享一下，我们在智能网联汽车预期功能安全决策方面做的一些工作。

今天我带来的内容主要包括三个部分：

第一部分智能网联汽车预期功能安全。这部分主要介绍预期功能安全问题以及它的定义、案例以及关键的挑战。

第二部分我们面临这些挑战提出的决策预期功能安全的解决方案和思路。

第三部分我们在提出决策预期功能安全解决方案是自监测自适应系统的核心技术。

我们知道智能网联汽车它的驾驶任务是随机多变而且是高动态复杂环境，我们驾驶任务是非常的困难。面临的挑战主要是包括道路运行环境复杂，我们知道天气环境、多变道路环境异常、交通参与者的违规行为，比如非机动车逆行，这些是道路运行环境的复杂多变性。

还有驾乘人员合理预见误用，包括分心、驾驶疲劳等，还有系统自身局限性包括系统功能决策、AI算法决策性等等。这些是智能驾驶汽车在运行过程当中面临的一些挑战。这些挑战带来的风险是预期功能安全问题的原因。

这里列了两个预期功能安全典型案例：

第一个特斯拉汽车在高速上行驶屡次未能辨别出白色卡车车厢，将它识别成白云。

第二个是uber事故，事故的发生其实感知系统已经识别到了行人，但是决策系统未考虑违规穿越马路的行人而导致事故的发生。

如何保障自动驾驶安全性成为研发人员面临的首要难题。

通过我们前期分析可以知道预期功能安全已经不是由电子电器时效功能范畴，它是属于预期功能安全。智能网联汽车面临的三大问题包括（1：20：30）告诉我们预期功能安全问题是什么，它该从哪些方面入手，但是具体解决方案需要我们探索。我们通过这三大安全分析可以来看预期功能安全是最大难题之一。

同时工信部装备一司公开征求《智能网联汽车生产企业及产品准入管理指南意见稿中明确提及了预期功能安全保障要求》，我们预期功能安全得到了广泛的关注。

同时在我国李骏院士牵头成立工作组，44家成员单位实现正产学研用有机结合，我们的目标是提出中国预期功能安全的解决方案。

下面来分析一下，既然前面预期功能安全面临这么多风险和挑战，我们怎么提出预期功能安全相应的解决方案？我们的目标是通过有可能是在决策方面来提出相应的解决思路，来攻克预期功能安全。

首先分析一下预期功能安全面临的主要问题和难点：

包括运行环境易突变带来的挑战是风险随机难辨识，主要包括天气状况随机多变，路况的随机多变以及智能网联汽车的通讯状况信息有丢包延迟这些都属于运行环境的易突变，这些风险是难辨识。

算法黑箱难确定。随着智能网联汽车发展，人工智能算法普遍应用，而其随机性、不确定性、黑箱特性带来预期功能安全评价指标难量化，这是最核心的关键难点。

系统安全缺防护。随之而来的挑战是驾驶安全的那保障。

我们通过分析上面三个预期功能安全问题和挑战我们试图提出决策预期功能安全的解决方案。

下面我们再具体分析一下预期功能安全它的产生源头，我们知道预期功能安全它的产生包括两个必要条件，一个是触发条件以及系统功能不足。触发条件比如超出运行设定域、天气状况，比如路面的状况，路面突然有凹陷突起或者前方有坠落物，在v2x突发状况丢包延迟，这些都属于ODD边界超出。

第二个触发条件是交通参与者的非预期行为。

第三个是驾乘人员的违规操作。比如驾乘人员在低头看手机，误触发，是驾乘人员违规操作，这些方面都是触发条件。对应系统功能不足包括算法的性能局限以及规范不足这两个大的方面，而在算法性能局限方面，包括感知算法、预测算法、决策算法、控制算法以及人机交互控制不足。

驾乘人员不在讨论范围，讨论的是超出ODD边界以及交通参与者的非预期行为，这些带来的预期功能安全问题。

在此基础上我们提出预期功能安全决策的解决方案，下面跟大家重点介绍一下这张图。最上策是自动驾驶传感器，下面是主控制算法即感知、决策规划、定位算法，下侧是运动控制，这是我们自动驾驶现在传统车辆上所用到的一些传感器、算法以及后面的运动控制。

我们在前面分析预期功能安全挑战基础上提出自监测、自适应的决策。

下面第一层是人工智能算法的实时监测系统。正如我刚才所问徐教授的问题是我最为关心的，我们自动驾驶算法或者人工智能算法该怎么监测，怎么实时评价，这是非常难的点。我们研究的是感知算法的实时监测和评价，预测算法的实时监测和评价，另外是决策算法自适应监测。在这些监测基础上提出人工智能实施自监测自适应模块，在这个监测和自适应模块基础上共同与我们的主控制达到对运动控制的约束。这是自监测、自适应决策系统的第一个模块。

第二个模块是ODD实时监测系统，这里包括对天气状况、路面状况、通讯状况自检，提出ODD实时监测自适应的模块，它与主控制协同配合，当遇到极端天气情况时能实时监测出来同时对速度进行约束。

第三个模块是道路法规实时化，从测试以及决策算法开发角度来说，道路法规实时化是重点热点问题，我们考虑的是强制性、建议性交通法规，同时将交通法规数字化，到自动驾驶决策控制里面里。这里面的橙色、蓝色、绿色是我们提出自监测自适应决策系统的整体况且。

下面是我们逐一将这些模块进行展开，很多工作都是我们前期大概一年半的积累，很多工作没有做完，这是我们正在探索的研究点。

首先给大家介绍的是中间变亮的颜色是第一个模块，是人工智能实时自检系统，这个自检系统包括感知算法、预测算法和决策算法的自检，在这些自检基础上对系统进行自适应控制。亮的模块可以看到，第一块介绍感知算法的实时自检和自适应。

感知问题，刚才我在开篇时也介绍到了比如特斯拉的问题还有从2016年到2020年屡次发生的预期功能安全问题都是感知算法的问题。通过前期研究发现自动驾驶来说80%的预期功能安全发生在感知层，所以对于感知问题它的算法实时的监测、实时的评价对我们自动驾驶的决策是尤为重要的。

我们第一步就先研究感知算法的自监测和自评价。

首先我们要建立感知的预期功能安全场景库，我们发现对于感知来说有以下几种对于预期功能安全的感知来说尤为重要的挑战包括雨、雪、雾、光强度等等这些是ODD情况，另外还有特殊的形态，人的姿态、外形等不常见改变的边缘案例，我们通过前期收集已经收集300余个可能引起算法失效的预期功能安全感知场景。

这里是我们对算法基本性能的评价指标，这里面测试了环境对感知不确定性的影响以及特殊场景、边缘案例下的感知不确定性的提取，我们下一步的计划是将感知不确定性向决策模块进行传递，并利用算法输出不确定性信息来进行未知场景或未知物体的辨识。通过前期预期功能安全分析来看，预期功能安全是新概念但不是新问题。前期在算法开发过程中多多少少都遇到了预期功能安全问题，之所以有预期功能安全的概念，希望能从系统角度解决预期功能安全的问题。也就是说我们感知算法有了问题仅仅从感知层不能解决整个自动驾驶预期功能安全问题，而是通过感知不确定性往后传播，我们如何系统的控制风险，这是我们研究的整体思路。

下面是给大家介绍一下预测算法的实时自检，这一块还是在人工智能实时算法自监测系统里。预测算法，我们知道尤其对场景特别复杂的十字路口来说，它的行人的随机性，它的轨迹的不可预测性，给我们自动驾驶算法带来很大的挑战。

左上角的视频是我们合作单位吉林大学帮我们在长春用无人机采集的无保护的十字路口的情况，很多交通参与者、行人或者车辆它的行为会不可预测的，我们在预测这些交通参与者行为的时候，我们有必要对预测模型中的不确定性来评估、考虑此类风险。这里我们采用了跟大家一直所用的算法是一样的，用MTI来进行行人、车辆轨迹预测。我们这时有预测，我们同时得到预测不确定性，它的不确定性能够引起决策的警觉。比如预测算法在随机下就会失效，如果这个因素不考虑，我们当它是一个预测精度100%的情况来处理，这时对决策来说是非常危险的。

下面来介绍一下决策算法实时自检和自适应的研究进展，在交通环境当中不确定性是对周围车辆位置来说尤为突出，周围车辆轨迹难以精确预测且感知系统存在这样的噪声，这些将导致周围车辆位置存在不确定性。如何考虑此类风险，是我们目前所研究的点。

这是一些联合仿真平台来验证我们提出对于位置不确定性，周围车辆位置不确定性运动规划所具有的有效性。

同时用hid平台来进行实时性的验证，这里考虑两个场景一个是cut-in场景，考虑不确定性和

第二在Merging场景下，我们验证考虑周围车辆位置不确定性场景下（音）能够有效的提升我们决策的安全性。

以上是我们介绍的人工智能实时自检系统，我们前期所做的探索。

第二个模块亮的颜色是ODD实施自检系统包括天气状况、路面状况、通讯状况的实时自检。首先介绍天气状况的实时自检，天气状况是尤为突出的条件，比如水气、雾气影响我们视觉效果，这些雨雪降低积水降低路面附着系数影响车辆安全，考虑天气状况的影响，对自动驾驶车辆提出约束降低危险。

我们尝试用车载的摄像头来以雨天为例通过图像识别考虑来对雨量大小进行输入进行安全决策。

这里是我们目前为止做的一些研究的进展，是基于雨量的，我们监测出来雨量的大小来对可视距离和水模厚度进行计算。

第二个模块是路况状态的实时监测，路面状况包括几个方面包括路面有突发的突起、凹陷或者高速上前方车辆坠落物，我们需要检测风险进行规避。

目前我们尝试用了双目视觉和激光雷达两种方案来提取路面状况，双目视觉有局限性，目前采用激光雷达来采取路面状况，来筛选出缺陷所在的点云并进行提取，这是我们的采集设备是这样的采集流程，最后提取缺陷点云。

在基于路面状况评估基础上怎么影响到决策？这里面就牵扯到车辆动力学响应，如果前面道路突起或者前方障碍物尺寸足够小，可以不用换道。如果尺寸相当大，我们必须采取提前换道决策。基于前期采取的点云结合经验验证的车辆振动模型来计算预期的加权加速度均方值来进行（1：38：16）路面决策（音）它的尺寸影响到我们车辆动力学的响应来进行相应的安全决策。

第三块是通讯状态的实时自检，除了天气状况、路面状况，随着智能网联汽车发展ODD扩展到通讯状况以及V2X、V2V这些通讯状况，丢包延迟。我们发现像信通院会提出来，我们的v2v或者我们的网联有没有预期功能安全问题？我们怎么结合进来？这是他们的需求。从我们的研究来看，通信状况的丢包延迟同样会影响到安全性，它是属于我们ODD的一个风险内容之一。

下面是我们结合科技部2.2的项目来进行的初步的探索，是v2v丢包延迟下的队列控制研究。如果有识辩通信延迟会导致前方状态信息更新滞后进而引起后车追尾，这是我们边队研究。左下角的仿真分析发现，如果具有识辩这是我们问题研究的出发点。

我们在此基础上考虑v2v通信丢包延迟对队列（音）降低边队行驶中预期功能安全风险，这只是其中研究的一个起始点。如果车辆队列，前方有道路施工，这些突发的预期功能安全问题基础上如何保证车辆边队的稳定性和行驶安全。

下面跟大家简要介绍我们在道路交通法规数字化方面做的工作，我们畅想如果将来的自动驾驶都能按照道路安全法规运行，我们的安全性将会大大的提升。这是我们研究的出发点，目前这部分工作与道路部交通安全研究中心一起开展的工作。这里交通法规分为强制性和建议性交通法规，其实并不是所有法规都是强制性的，有一些是软约束，有一些是硬性约束。

这里我们考虑的交通法规主要包括速度、距离类的约束以及车道类、路权类进行分类，进行自适应决策里面我们对应到的包括约束的变量还有参考变量以及路权的函数，我们通过这些来共同定义到我们决策系统里面来。这44页是一个案例，在没有中心隔离设施或者没有中心线的道路上机动车与相对方车辆来临时应遵守减速靠右行驶并与其他车辆、行人保持必要的安全距离，这是实施法规的原文，我们对它进行常规道路势场、无中心线道路势场的数字化，把这些进行我们道路成本的设计函数，形成我们的行人势场、车辆势场以及其他成本最终归结到决策算法中，来实现（1：43：02）安全决策，这是其中一个案例的实现。我们这里考虑60条道路法规的数字化。   

以上的内容就是我们提出的自监测、自适应决策系统的所有的核心技术。

我们下面对系统要进行测试，我们测试的基础是自己建的预期功能安全场景库，这个场景库的建立，我们前期考虑了专家经验知识以及OEM提供的tier1和tier2的开发经验以及政府提供的交通数据，我们进行预期功能安全局限性分析包括感知层、预测层等进行分析，来得出预期功能安全的七层场景架构。

大家可以从我们之前发布的预期功能安全场景库前沿技术报告里能够发现，在预期功能安全场景库我们构建了共享平台，经历了1.0版本和2.0版本，这个版本将在今天下午预期功能安全会场发布，包括静态、动态信息来进行我们自监测、自适应安全决策系统的验证。

如果大家对这部分感兴趣，会后可以单独交流一下。