一般来说，人类司机不会有意识地考虑和计算每件事情发生的概率，但是我们在观察周围环境时，都会根据某件事情发生的可能性，做出相应的决策。一个司机虽然无法计算出身后的跑车超车的准确概率，但是通过观察那辆跑车的行为，再考虑上之前的类似情况，他同样能够做出一个相对好的猜测。

我们相信概率，因为当我们处在不确定性中，它是唯一能帮助我们作出决策的方法。

自动化系统，例如“无人驾驶汽车”，会根据概率做出同样的判断和决策，只是通过一种不同的程序而已。人类是相信直觉和经验的，这些自动化的汽车不同，它们会利用数据收集器和推理算法，来计算出某件事情发生的概率。

 如何确定一件事情发生的概率？

Stefano Ermon 是斯坦福大学的计算机专家，他希望改进“无人驾驶汽车”和自动化系统对周围环境进行概率推理的方式，从而提高其安全性和可靠性。他解释道：“这种做法的挑战性就在于，你对接下来将要发生的事情是一无所知的，即使是这样你还是必须做出决策、采取一些行动。概率推理其实就是在假定不确定性存在的情况下，从概率的角度看待问题。”

现在，主要有两种方式可以用于提高自动化系统的安全性。首先，计算机模型收集的数据必须是准确的；其次，计算机的推理系统必须能够从模型数据中得出最佳结论。

Ermon解释道：“你需要把两种方式配合起来：为了得到一个相对可靠的计算机模型，你需要有大量的数据；然后你还需要根据模型得出正确的结论，这个时候就需要人工智能准确地思考这些模型。如果你没有一个推理的好方法，就算模型是正确的，你同样会把事情搞砸。”

举个例子：就自动化的汽车来说，模型会使用各种传感器来观察周围环境，同时收集许多存在可变性的数据，比如旁边司机的行为，前方路上的坑洼和障碍物，天气状况等所有可能的数据点。

接着，一个推理系统就会对这些数据进行解释、翻译。它利用模型提供的信息来判断你后面的司机是否具有侵略的危险性；前方的坑洼会不会硌破你的轮胎；雨势是否会阻碍视线……然后系统会根据情况的变化，不断地改变汽车行为，以适应不同的情境。

假设你身后的司机是非常激进的、带有敌意的，那么这个时候就像Ermon所说的：“你需要能够对这些模型进行推理，得出一个概率。你虽然不能预知这辆车接下来会做些什么，但至少你可以猜测。比如：你能根据这辆车之前的危险驾驶的行为，做出它接下来可能要切线的判断。”

改进概率推理

Ermon正在建立一个能够合成模型生成的所有数据，并作出可靠决策的强大算法。

在模型的不断改进中，他们掌握了更多信息，也捕获了更多与决策相关的变量。然而，就像Ermon指出的：“模型越复杂，变量就越多；相应地，根据模型做出最佳决策就越困难。”

因此，随着数据集合的扩大，概率的推理方式必须同时改进。汽车中的人工智能必须能够用这些不断复杂化的数据进行推理和分析。

但是，这种推理很容易就会出错。Ermon说：“在计算这些概率的时候，你需要做到非常精确。假如一辆车越入你车道的概率为0.1，但你完全低估了这种可能性，把这件事情的概率判断为0.01，那你最终做出的决策很可能会是致命的。”

为了避免做出这种致命的决策，人工智能必须是非常强大的，同样的，数据也必须是完整的。Ermon强调：“如果模型收集的数据是不完整的，你就不能保证在运行此算法时得出的结果，与事件发生的实际概率是相关的。”

模型和算法需要完全依赖彼此才能做出最佳的决策。如果模型是不完整的，没能够捕获到你前方的存在的黑色冰块，那么再好的推理系统也没办法做出安全的决策。如果这个推理系统不能处理复杂的数据信息，那么就算模型捕获到了前方的黑色冰块，以及其他所有可能存在的变量，车辆同样会出现事故。

自动化系统的安全性

目前来说，在“无人驾驶汽车”中的技术已经取得了巨大的飞跃，Ermon对此寄予了很大的期望，他表示：“随着计算机、算法以及模型的不断发展和进步，在将来，我们很有可能可以预防所有的汽车事故。”

然而，概率推理的基本局限依然不容忽视。Ermon解释道：“大多数的计算机专家认为，就现在的发展水平来说，我们几乎不可能创建出一个有能力对所有类型的模型进行推理的超强算法。这是最关键的障碍。”

但是暂时抛开这个障碍，“自动驾驶汽车”将很快面世。福特公司日前就承诺将会在2021年以前让他们公司的“自动驾驶汽车”正式上路。大多数计算机专家希望“无人驾驶汽车”比人类驾驶的汽车更安全，他们的成功就取决于对周围环境进行概率推理的能力。

正如Ermon谈到的：“你需要能够预测、估计这些概率，因为这些概率是你做出决策的依据。”

此文节选自《未来生活》关于人工智能安全研究补助系列，由Elon Musk和“开放公益项目”捐赠资助。

智驾注：本文转载来源为图谱科技，由AutoR智驾转载。