根据场景观察进行直觉推断的无人驾驶安全判断系统的制作方法

本发明属于智能驾驶技术领域。

背景技术：

自动驾驶安全的保证手段目前主要有道路车辆功能安全(iso26262，2011)、预期功能安全(iso21448，2019)、系统运行设计范围状态监控(saej3016)、人机交互等四方面的性能要求。

其中，系统功能安全性能要求自动驾驶系统能够根据外界感知输入按照预设的功能规定做出正确响应。功能安全标准强调在产品设计阶段怎样从设计环节上保证产品的功能安全，该标准制订的假设是，在系统过于复杂以后，很难通过预测的方式来全面估计失效的环节和失效的模式，因此设计预防就显得非常重要。

在复杂的运行环境中，即使所有的安全系统都如iso26262所要求的那样完美实现预设功能，但是由于使用环境的复杂程度超出了系统的能力极限，或者出于操作者的滥用或者误用等原因，整车实际运行时仍然有可能发生安全事故。例如，自动驾驶系统是根据某些特定运行环境开发的，如果自动车辆在实际驾驶中遇到了开发过程中从未遇到过的陌生环境，自动驾驶系统就会出现判断困惑，从而导致事故发生。iso21448将这种安全性称为“预期功能安全(sotif)”，标准的目的是尽可能多地暴露使用环境变量，进一步提高系统的适应性设计。

为了保证自动驾驶系统的合理使用环境，saej3016定义了“系统运行设计范围”(odd)的概念。odd是保证所设计系统可以正常运行的条件，规定自动驾驶系统必须自己能够监控odd的边界，超出odd边界以后就要采取后备安全方案。

尽管有上述周密的设计保障措施，无人驾驶系统仍然潜在的安全隐患，主要原因是，无论系统设计考虑的多么周全，也不可能覆盖实际运行场景的无限可能性。也就是说，自动驾驶系统不具备人脑那种根据场景观察和局势的理解对驾驶安全进行直觉推断的能力。

技术实现要素：

本发明的目的是比照人类驾驶和自动驾驶系统，依靠常识和经验，人类司机可以调整自己的行为，避免进入自己无法应付复杂驾驶环境的根据场景观察进行直觉推断的无人驾驶安全判断系统。

本发明包括经验常识记忆库、场景观察器和直觉推断引擎三大要素；

(1)经验常识记忆库：包括事故和场景要素，场景要素包括车辆要素、行驶状态要素、自然环境要素、道路特性要素、人为要素；每个事故可以表达为场景要素空间里的一个向量，所有的事故一起形成一个事故常识记忆矩阵a；一个事故对应的一个场景要素组合就是一个场景向量，经验常识库结构如表1所示：

表1事故经验常识库结构

其中：

c1～cm为事故特征代码，由11位数字与字母组成，

①事故特征代码c

事故类别包括发生事故时的五种事故要素，分别为事故形式特征、碰撞主体分类、碰撞受体分类、冲突方式分类和伤害程度分类；事故要素及水平定义见表2，

表2事故要素及水平定义

其中，机动车分类按照gb/t150892001执行，总共分为l类、m类、n类、o类和g类，其中l分为l1～l5，m类分为m1、m2、m3；m2和m3类中继续细分为a级、b级、ⅰ级、ⅱ级、ⅲ级，共计19种；本申请用三位分类编号表达车辆分类，l、m1类第三位为0，m2和m3类车辆的第三位为级别代码a，b，i，ii，iii，n、o、g类车辆的第二、三位编号均为0；

②场景向量s要素水平定义方法

si为场景向量：si＝(si1，...，sin)

24个场景元素所构成的场景向量由表3所列举出，

表3场景向量s的要素构成

根据上表，历史交通事故记录数据库里的每一次事故环境的记录，表达成一个上述24维的经验场景向量s，也就是说，

s＝(s1，s2，……，s24)

所有场景经验向量组成的事故矩阵就是人工智能机器所能读懂的驾驶常识经验库，a为事故矩阵：

a＝[c1c2…cm]^t；

③根据历史上实际发生过的交通事故记录，将每一次事故都根据表1和表3描述成规范化的事故类型-场景向量对应关系；事故由表1所规定的代码表达，场景由表3所规定的维数向量描述，这种描述经验事故的场景向量成为经验场景向量；

④经验常识记忆库矩阵即事故矩阵a的生成

经验常识记忆库可以表达为一个m×n事故矩阵a，其中m是事故类别数量，n是场景向量维数，

(2)场景观察器

场景观察器的作用是根据车辆感知的信息生成一个现实场景向量x，以便于用来和驾驶常识经验库里的经验场景向量s相比较；

现实场景向量x的元素与维数定义必须与经验场景向量s定义相同，现实场景向量元素的感知有三个渠道来源：车载传感、通讯传感和驾驶员输入，见表4

表4现实场景向量的生成

根据表4生成24维现实场景向量x：

x＝(x1，x2，...，x24)

现实场景向量x是一个n维向量：

x＝(x1，x2，...，xn)

(3)直觉推断引擎

根据步骤(2)感知到的现实场景向量x，利用经验比照算法，找到常识经验记忆库里与此最相近的经验场景向量s，然后在事故矩阵a中观察在与现实环境相类似的场景中是否发生过事故，进而推断出最可能发生的事故类别与概率。

本发明直觉推断引擎采用svd方法进行近似运算

svd算法能够使任何一个事故矩阵a都可以分解成为一个正交矩阵u,一个对角矩阵σ,和一个正交矩阵v^t的乘积,使得

a＝u∑v^t

σ里面的奇异值从大往小排列，最大值对应于在u和v里对原始事故矩阵最显著的向量；保留事故矩阵a里最主要的k个分量，k根据实际运算速度和运算精度的要求综合权衡确定，得到一个较小的矩阵uk,σk,和表达为

在事故经验常识库里，如果记录有m个事故，n个场景要素，则m×n事故矩阵就可以分解为：

uk：m×k正交矩阵

σk：k×k单一值对角矩阵

vk：n×k正交矩阵；

ak就是实际运行相似性对比运算的降维空间；根据计算结果，直觉推断引擎输出的是事故类型。

本发明基于直觉推断引擎获得的预警系统，即直觉预测引擎：

根据贝叶斯定理：

式中，条件概率p(x/s)：感知到了s场景(现实)，求s场景下发生x类事故的概率；

先验概率p(x)：x类事故发生的概率，根据各种交通事故统计数据库获取；

似然性p(s|x)：已知x发生后s的条件概率，也由于得自x的取值而被称作s的后验概率；

也表述为：事故统计数据库里面与场景现实s一模一样的概率有多大；

场景发生概率p(s)：s场景出现的概率；

忽略p(s)这个固定量，上式可以转换为一下表达形式：条件概率∝先验概率x似然性，即

p(x/s)∝p(s/x)p(x)

为了计算似然性p(s/x)，需要构建场景s的抽象层，定义s1，s2，…，sn为场景s包含的n个场景元素；

所以p(s|x)＝p(s1，s2，..，sn|x)，

可扩展为p(s1|x)*p(s2|s1,x)*p(s3|s2,s1,x)*..

利用朴素贝叶斯原理：si和si-1是完全条件无关，所以上式可进一步简化为：

p(s1|x)*p(s2|x)*p(s3|x)*..

因此，只需要统计场景元素分量si在这个事故模式x里出现的概率，然后相乘就行了；

si在x类型事故里出现的概率可以由历史交通事故记录统计而得；根据计算结果，预测引擎输出事故的发生概率。

本发明有效将人类直觉判断与自动驾驶技术结合，通过人为因素和机判因素综合性考虑交通环境的各种因素组合，应用到自动驾驶驾驶技术中，更加能够精确的预判出各种因素或行为，从而增加自动驾驶技术的安全性。

附图说明

图1是驾驶安全直觉推断系统的三大要素构成图；

图2是驾驶安全直觉推断系统工作流程图；

图3是十种冲突方式图例；

图4是由11位代码表达事故经验库里的事故类别；

图5是直觉判断计算流程图；

图6是本系统驱动人机介面hmi对驾驶者提出行驶状态修正建议或者警示形式图；

图7是本系统场景判断系统将与现有的自动驾驶驾驶规划与决策控制器联合工作，对自动驾驶系统的执行机构进行干预控制流程图；

图8是本系统与环境的关系量观察(场景印象)直接对自动驾驶过程进行控制图。

具体实施方式

本发明将人类驾驶和自动驾驶系统，二者的差别主要是智能驾驶系统对场景缺乏直观理解能力。依靠常识和经验，人类司机可以调整自己的行为，避免进入自己无法应付的复杂驾驶环境，比如在冰雪环境需要降低车速并拉大与前车距离，还可以理解路边的行人会不会突然横穿马路，或者其他车辆是否在给自己让行。人类也可以依靠常识、直觉对情景进行提前推演，比如在视野遮挡的条件下，一个足球滚入车道以后，很有可能有一个孩子会不顾车辆突然冲出来追球。虽然自动驾驶系统在物理量测量和动作精准性上远超人类，但是在快速局势判断、场景直觉判断能力上与人类相比相差还很远。人大脑的直觉判断过程使用了一种与逻辑思维不同的方法，即模式类比法。

常识的获取与表达

要想将事故数据库或者驾驶手册转换成自动驾驶系统的经验知识，首先需要将经验知识表达成一个机器能够理解的语言，设计出常识之间的互相索引架构。

机器常识的表达目前有三种主要的方式，即基于逻辑的表达、自然语言表达基于矢量的嵌入空间表达。

驾驶经验常识的内容可以应用上述理论通过对历史事故数据库的总结和抽象来获取。驾驶经验手册和主观安全常识也是智能驾驶经验常识的数据来源。总体来讲可以抽象成事故、和引发事故的环境因素两个层面。

一个具体的事故可以看成是由一系列环境因素(比如车速、路面摩擦等级、时段、季节、道路几何、车辆分布形态......)的组合构成的向量。一个环境要素在不同的事故向量里可以有不同的权重系数。这个权重系数是通过对经验数据库的学习获取的，并在积累新数据的同时不断得到更新修正。

除了这种元素之间的联结学派表述方式，事故、场景、环境因素之间还可以借助符号学派的属性关联来表达，所以机器常识库里可以利用自然语言的形式对内容进行叙述，这样智能机器就可以利用现有的nlp(自然语言处理)工具进行场景推断演绎。

自然语言是一种很好的机器知识载体。首先，语言本身就是一个人类思想逻辑的外在表现形式，本身就包含了很多逻辑运算关系，是非常好的推理和关联工具。其次，目前有很多很成熟的nlp工具可以用来做关联和推理运算。

智能机器经验知识的表达形式需要满足以下几方面要求：

-能够完整转换人类现有的驾驶经验知识库

-经验常识库的结构易于利用现有人工智能算法进行运算处理

-场景元素应当易于快速感知

对环境场景的观察方法目前自动驾驶系统对环境的感知方式是以观察对象的物理状态参数(动力学参数、运动学参数、几何参数)计算为基础，随后进行对象运动趋势的逻辑推理运算。直觉大脑感知世界的方式与自动驾驶的逻辑控制器有所不同,直觉判断的输入信息必须具有高效的可获取性。直觉大脑感知的内容应当和我们人眼看外部环境的第一印象相类似，尽量采用具有物理显著性的易感知量，而不是采用间接换算量。由易感知量构成的环境描述在本专利中称之为“场景传感”。

对现实环境描述的元素出了满足上述易感知、易获取要求以外，同时还要必须与知识经验库里的知识表达形式相一致。也就是说，经验常识表达的基本元素必须具有可观测行，同时场景感知的要素必须覆盖所有经验常识数据库的基本元素。

场景传感系统的输入渠道包括：车载传感器信息，通讯传感信息(gps、地图、天气预报等)，输入设置(车型、驾驶员性别、年龄、车型年型、轮胎状态等)。

目前能满足上述“场景感知”的传感系统还很少。

相似度类比分析计算方法

人类依靠物理直觉、心理直觉在世界上生活。与智能机器不同，直觉判断是人类大脑新皮质最擅长的思维方式。直觉判断的速度要比逻辑判断的速度快得多，主要方式是依靠模式对比，将类似经验当做当前问题的近似解；如果找不到与当前问题足够匹配的近似经验解，那么就对最接近当前问题的经验模型稍加修正，作为当前问题的近似解。经验知识以“模式”形式存在于记忆当中。

智能驾驶直觉推断的过程就是把经验知识库当作“模式”来储存和调用，同时把场景当成“模式”来感知，然后再将二者进行对比，计算出二者的接近程度，依此确定即将发生某种事故的可能性概率。直觉判断的输出结果可以表达为：可能发生哪种类型的事故；发生这种事故的概率有多大。

类比分析计算方法是直觉判断目前可用的理论方法。类比分析是人脑直觉思维的计算模式。数据相似性或相异性有很多不同的存在形式，比如配对评估、对象的排序、关联共同性、替换误差以及事件相关性等等。

驾驶安全直觉推断系统由经验常识记忆库、场景观察器和直觉推断引擎三大构件组成(见图1)。系统工作过程如图2。

4.1经验常识记忆库

经验常识记忆库的作用是将人类驾驶的历史交通事故数据、安全驾驶经验和人们对物理环境的的直觉感受，用智能机器所能理解的语言、所能检索的方式表达城“安全驾驶常识数据库”。

经验常识库由“事故”和“场景要素”构成。在历史事故记录里，事故是和某些场景要素密切关联的，反过来，某些场景要素不同水平的组合就意味着极有可能会出现某种类型的事故。

场景要素包括车辆要素、行驶状态要素、自然环境要素、道路特性要素、人为要素等等。

每个事故可以表达为场景要素空间里的一个向量，所有的事故一起形成一个事故常识记忆矩阵(事故矩阵)a。一个事故对应的一个场景要素组合就是一个场景向量。经验常识库结构如表1所示。

表1事故经验常识库结构

其中：

c1～cm为事故特征代码，由11位数字与字母组成，定义见4.1.1。

场景要素sij，i∈[1,m],m代表事故编号的最大值；j∈[1,n],n代表场景要素编号的最大值。有不同的水平，水平定义见4.1.2。

si为场景向量：

si＝(si1，...，sin)

a为事故矩阵：

4.1.1事故特征代码c

事故类别由发生事故时的5种(但不限于)事故要素组成，分别为事故形式特征、碰撞主体分类、碰撞受体分类、冲突方式分类和伤害程度分类。任何一个事故都可以用这五个基本要素不同水平的组合来描述。事故要素及水平定义见(但不限于)表2。

表2

其中，机动车分类按照gb/t150892001执行，总共分为l类、m类、n类、o类和g类，其中l分为l1～l5，m类分为m1、m2、m3。m2和m3类中继续细分为a级、b级、ⅰ级、ⅱ级、ⅲ级，共计19种。本专利用三位分类编号表达车辆分类。l、m1类第三位为0。m2和m3类车辆的第三位为级别代码(a，b，i，ii，iii)。n、o、g类车辆的第二、三位编号均为0。

冲突方式用代码数值描述，共计10种。(见图3)。

伤害等级参照aaam(associationfortheadvancedautomotivemedicine)和ama(americanmedicalassociation)定义的ais(abbreviatedinjuryscale)系统，按严重程度分为0～6级。

事故经验库里的“事故类别”将唯一性地由11位代码表达(见图4)，书写格式为“a形式数值+b主体代码+c受体代码+d冲突方式数值+e伤害程度数值”。

举例：

m2a类机动车与横行的自行车相撞导致发生ais4级伤害事故，事故类别代码c为：c＝01m2a001064。

n2类货车发生侧翻事故导致驾驶员受到ais1级伤害，事故类别代码c为：c＝02n20000002。根据表1，图4的内容组合方式一共有(但不限于)82,992种，也就是可将事故定义成(但不限于)82,992类。

4.1.2场景向量s要素水平定义方法

每个事故都与特定的场景相关联，每个事故可以表达为场景要素空间里的一个场景向量。反过来，一定的场景组合通常也意味着会诱发某种事故。场景向量由表3所列举出的(但不限于)24个场景元素所构成。历史上的事故数据、现实的驾驶环境都和一定的场景向量相对应。

表3场景向量s的要素构成

根据上表，历史交通事故记录数据库里的每一次事故环境的记录，都可以表达成一个上述24维(但不限于24维)的“经验场景”向量s，也就是说，

s＝(s1,s2，…，s24)

所有场景经验向量组成的事故矩阵就是人工智能机器所能读懂的驾驶常识经验库。

场景经验向量的维数可根据实际情况进行增减。

根据历史上实际发生过的交通事故记录，将每一次事故都根据表1和表2描述成规范化的“事故类型-场景向量”对应关系。事故由表1所规定的11位代码表达，场景由表3所规定的24维(但不限于24维)向量描述。这种描述经验事故的场景向量成为“经验场景向量”。

4.1.3经验常识记忆库矩阵(事故矩阵)a的生成

历史上所有的事故都可以表达成一个24维(但不限于24维)的经验场景向量，所有事故都可以规范为表1所列举的82,992种类别中的一种，也就是事故分类一共有82,992种标注。

如果把每次事故的经验场景向量当成一行，那么m次事故记录的数据就会构成一个m×24矩阵，按照目前的事故定义，其中m的最大值为82,992。

更一般地，经验常识记忆库可以表达为一个m╳n事故矩阵a，其中m是事故类别数量，n是场景向量维数。

4.2场景观察器

场景观察器的作用是根据车辆感知的信息生成一个“现实场景”向量x，以便于用来和驾驶常识经验库里的“经验场景”向量s相比较。在经验常识记忆库a矩阵里找到了与现实场景x向量最相近的经验场景向量s以后，就能根据s调出与之相对应的历史事故记录，进而判断此刻重演事故的可能性。

现实场景向量x的元素与维数定义必须与经验场景向量s定义(表2)相同，。现实场景向量元素的感知有三个渠道来源：车载传感、通讯传感和驾驶员输入，见表4。

表4现实场景向量的生成

根据上表可生成现实场景向量x：

x＝(x1，x2，…，x24)

一般性地，现实场景向量x是一个n维向量：

x＝(x1，x2，…，xn)。

4.3直觉推断引擎

直觉推断引擎的作用是，根据4.2感知到的现实场景向量x，利用经验比照算法，找到常识经验记忆库里与此最相近的经验场景向量s，然后在事故矩阵a中观察在与现实环境相类似的场景中是否发生过事故，进而推断出最可能发生的事故类别与概率。

经验比照算法是指，需要在事故矩阵a里，用现实场景向量x与每一行经验场景向量si相比，看与事故矩阵中的哪一行最接近。比照算法有很多，比如，可以使用svm(支持向量机)的分类算法等。本专利采用(但不限于)截断奇异值分解(svd)方法进行近似的直觉推断运算。

理论上讲，相似性是对向量的线性运算。现实场景向量x和经验场景向量si之间的相似度可以用二者的点积来度量。当两个场景相同或相近的时候点积的数值会增加；二者之间的要素互相否定的时候点积值会减小。利用现实场景向量x与事故矩阵a的每一行si之间逐行执行点积运算，结果数值最大者所对应的经验场景向量就代表了与目前场景最接近的历史场景，然后，本系统会推知当前场景是否存在危险隐患。

在实际运算中，当事故经验数据量很大的时候，事故矩阵a的维度会随之剧增，执行上述逐行点积运算需要很大的运算成本，有可能不满足实时系统对判断速度的要求，尤其是，本系统的经验判断运算速度应当比传统的自动驾驶规划决策系统快一个数量级。为此，本专利采用svd方法进行近似运算。同时，svd的另一个作用是“平滑”原始数据库中的噪声数据，与其他描述关联度不好的事故类型会被丢弃掉，同时强调而许多事故类型之间的大规模的相似性。个体事故案例不要求与其完整的场景要素列表相关联，相反，可以与相近的事故类型进行模糊化近似对比。

截断奇异值分解svd计算将事故类型从高维度的经验事故空间投影到更低维度的空间，同时它还将事故空间中经验场景要素也投影到相同的降维空间中，svd可以在这个新的、更紧凑的事故/场景空间中进行相似性运算，运算过程如下：

svd算法能够使任何一个事故矩阵a都可以分解成为一个正交矩阵u,一个对角矩阵σ,和一个正交矩阵v^t的乘积,使得

a＝uσv^t

σ里面的奇异值从大往小排列，最大值对应于在u和v里对原始事故矩阵最显著的向量。

我们只保留事故矩阵a里最主要的k个分量(k根据实际运算速度和运算精度的要求综合权衡确定，比如可试取50，100等数值)，得到一个较小的矩阵uk,σk,和被丢弃的其余分量对数据影响较弱，主分量是对原始事故数据的一个近似表达，称之为截断svd，表达为

在事故经验常识库里，如果记录有m个事故，n个场景要素，则m×n事故矩阵就可以分解为：

-uk：m×k正交矩阵

-σk：k×k单一值对角矩阵

-vk：n×k正交矩阵

ak就是实际运行相似性对比运算的降维空间。由于降维空间是原始事故与场景空间的正交变换，所以降维空间中的点积也近似等于原始事故空间的点积。这个特性可以用来在降维空间中计算现实场景与经验场景之间的相似性。

根据计算结果，直觉推断引擎输出的是事故类型。

4.4直觉预测引擎

推断出可能发生的事故类型(x)以后，本专利预警系统利将用贝叶斯原理对发生该事故的发生概率进行计算。

根据贝叶斯定理：

式中，

条件概率p(x/s)：感知到了s场景(现实)，求s场景下发生x类事故的概率先验概率p(x)：x类事故发生的概率。可以根据各种交通事故统计数据库获取似然性p(s|x)：已知x发生后s的条件概率，也由于得自x的取值而被称作s的后验概率。也可以表述为：事故统计数据库里面与场景现实s一模一样的概率有多大。

场景发生概率p(s)：s场景出现的概率

进一步，忽略p(s)这个固定量，上式可以转换为一下表达形式：

条件概率∝先验概率x似然性

即

p(x/s)∝p(s/x)p(x)

在求解条件概率p(x/s)的过程中，p(s/x)的计算是关键，也是难点，因为面临着数据稀疏问题，因为几乎可以肯定，不管场景库总结得多么丰富，也不可能和现在场景完全一样。

为了计算似然性p(s/x)，需要构建场景s的抽象层，定义s1，s2，…，sn为场景s包含的n个场景元素(比如速度、道路曲率、天气、时段、车辆密度……)，所以

p(s|x)＝p(s1，s2，..，sn|x)，可扩展为

p(s1|x)*p(s2|s1,x)*p(s3|s2,s1,x)*..

利用朴素贝叶斯原理：si和si-1是完全条件无关，所以上式可进一步简化为：

p(s1|x)*p(s2|x)*p(s3|x)*..

因此，只需要统计场景元素分量si在这个事故模式x里出现的概率，然后相乘就行了。

si在x类型事故里出现的概率可以由历史交通事故记录统计而得。

根据计算结果，预测引擎输出事故的发生概率。

4.5直觉判断计算过程

综合上述直觉判断计算过程如图5所示。

发明的效果：

本发明所述技术与系统，可以向人类所习惯的驾驶思维方式学习，及发挥右脑的直觉判断功能，对现有的自动驾驶左脑控制模式进行补充。

人类驾驶的直觉判断主要运用于两方面的直觉判断：物理直觉判断和行为直觉的判断。“物理直觉”是指根据环境要素、环境要素的组合对本人下一个即将采取的行动的安全性后果所作的场景推断；“行为直觉”是指根据车辆、摩托车、自行车、行人所表现出的行为特征而对其他交通者的下一步行动意图所作的推断。本专利技术可应用于自动驾驶控制系统的物理直觉和行为直觉两方面判断。

与谷歌alphagozero算法的“棋感”类似，自动驾驶系统缺乏的是“路感”和“驾驶直觉”。本发明技术用物理和行为两方面的直觉给自动驾驶系统提供驾驶路感。本系统不关心驾驶动作怎样完成，而只关心完成这个动作任务的后果是否安全。如果通过本专利所述系统对驾驶场景完成安全性评估以后再进入动作执行环节，自动驾驶的安全性就会得到很大的提高。

本发明所述场景安全评估系统的作用是：

1)在陌生的驾驶环境下，物理直觉判断系统根据以往的事故经验，判断目前的人类驾驶状态(速度、跟车距离、车道占用等)是否存在潜在的危险，哪种危险，危险的概率有多大

2)如果危险类型明确，且出现概率超出限定阈值，则物理直觉判断系统为人类驾驶提供驾驶状态更改建议

3)对自动驾驶系统规划出的下一个即将执行的任务，物理判断系统评估其执行后果，根据驾驶环境考察本是否具备安全完成本任务的条件(比如，在大曲率弯道和路滑、不良视野的条件下，是否仍应当执行一个规划好的换道超车任务)，或者，评估侧任务执行以后对交通环境是否存在不良干扰和影响。如果不良后果的出现概率超出一定阈值则对任务计划进行更改；如果没有不良后果，则对任务计划给予批准，自动驾驶系统进入动作执行的逻辑运算控制程序。

本申请一共有三种应用实施模式。

1)利用人机界面(hmi)直接对司机发出预警或提示

本系统驱动人机介面hmi，用音频、视频、震动、自然语言等方式对驾驶者提出行驶状态修正建议或者警示(见图6)。

2)与规划与决策控制器联合对自动驾驶过程进行控制

本专利场景判断系统将与现有的自动驾驶驾驶规划与决策控制器联合工作，对自动驾驶系统的执行机构进行干预控制(见图7)。

工作过程是：

-在规划与决策控制器执行当前任务的过程中，场景判断系统不断对场景进行动态的安全性评估，必要时修正本车驾驶状态

-如果规划决策控制器按照行驶计划生成了新的自动驾驶任务，场景判断系统则对新任务进行评估，决定该任务是否可以执行，执行后是否有负面后果

-如果潜在危险超出预期规定，则对新的任务规划进行否决，或者生成新的任务目标

3)独立对自动驾驶过程进行控制

本系统利用本车与环境的关系量观察(场景印象)直接对自动驾驶过程进行控制(见图8)。和人类驾驶一样，用定性的模式量反馈直接对自动驾驶系统进行干预，将车辆从不安全的场景调整到安全的场景。