盖世汽车讯 人工智能（AI）对于任何现代复杂系统的成功都至关重要，包括自动驾驶。目前还没有其他方法可以获得像人类一样的驾驶能力或处理当今道路上遇到的各种情况。几十年来，自动驾驶技术紧跟人工智能的前沿，但其根本挑战是如何以人性化的方式驾驶，同时保证社会所要求的高水平安全。
图片来源：Aurora
黑色背景上蓝色字母“AI”的图形
20世纪50年代和60年代的汽车使用了当时最先进的技术，现在称之为“控制理论”。20世纪90年代，神经网络首次用于高速公路驾驶。21世纪迎来了概率推理。而现在，21世纪20年代终于新的工具来实现这一长期愿景。
基于逻辑的方法失败了，但AI取得了成功
关于自动驾驶汽车的一个常见误解是，良好的驾驶可以通过一组简单的逻辑陈述来解释。不幸的是，考虑到在道路上遇到的复杂和动态环境，纯粹基于逻辑的方法注定会失败。例如简单的驾驶任务：在高速公路上变道。
这看起来很简单，但需要找到一个足够大的间隙，然后控制好车子进入下一个车道。如果相邻车道是空的，那就很容易了。同样，如果旁边有车，显然不应该变道。但是当相邻车道的间隙足够小，以至于会侵占另一个驾驶员的车距时，应该变道吗？另一个司机稍微放慢速度是否表明他们预料到了侧方要变道，并让出了空间？是否需要安全但比平时更积极地操纵，因为出口快到了？这里没有简单的要求来表达“正确答案”；这个问题太复杂了，无法用一组简单的逻辑语句来表达。
人工智能可以解决基于规则的工程方法无法解决的问题。但如何确保人工智能行为良好，不会做出令人担忧或危险的事情？过去七年，Aurora一直专注于此——以可靠、可验证的方式实现人工智能。
人工智能的当前革命
Aurora对现代大型语言模型的最新进展感到惊讶，甚至深受启发。这些模型的感觉与人类如此相似，以及它们在回答从基本到高级的问题时如此灵活，这确实令人震惊。
如何将这些方法融入自动驾驶汽车？Aurora自2021年以来一直在道路上使用Transformer式模型（大型语言模型的核心魔力）。为此，Aurora必须克服基本挑战，即创建一个安全且可验证的系统（或者用人工智能的话说——确保自动驾驶人工智能保持一致）。
对齐的挑战
事实证明，让现代人工智能系统始终按照人的意愿行事是困难的。事实上，有一个术语可以形容它：“对齐”。如果在新闻中听到过对齐的讨论，它通常是关于如何阻止一些假设的人工智能统治世界。在实践中，大多数对齐工作都更加平凡。它是关于确保人工智能正在做一些有用的事情（例如，提供真实、正确的问题答案，而不是编造问题），同时也代表开发者的价值观（例如，不提供偏执的答案）。
实际上，对于大型语言模型开发人员来说，实现对齐一直非常困难。告诉人们在披萨上加胶水是一回事，希望阅读该建议的人能够干预；让自动驾驶汽车无缘无故地偏离高速公路又是另一回事。
确保自动驾驶汽车的正确对齐至关重要
那些试图使用纯端到端系统解决自动驾驶问题的人会发现自己陷入了一场打地鼠游戏，就像那些提供大型语言模型的人一样。例如，许多聊天机器人现在可能都有一组明确的排除来源（例如Reddit上的各种恶意频道）。在自动驾驶世界中，这会导致将临时代码片段修补到输出上（例如强制在停车标志处停车，而不是模仿人类常见的穿过停车标志的行为）。如果没有一些系统的、主动的框架，这将陷入无法维护的代码泥潭。出于这个原因，Aurora预计任何声称是“端到端”的自动驾驶系统在实践中都不是，也不会是。相反，他们需要找到一种解决方案，既能利用现代人工智能的所有优势，又能确保对齐。
安全可行的方法
据外媒报道，Aurora开发出称为“可验证AI”的方法，可以解决自动驾驶汽车的对齐问题。Aurora倾向于这样一个事实：即并不是试图构建通用AI，而是在道路上运行的AI。
在道路上，Aurora拥有那些使用语言模型的人所没有的优势：有一套明确的交通规则（例如，这是德克萨斯州的交通法规）。虽然交通法规不能（也不会试图）回答棘手的问题，例如驾驶员在被切断时应该以多快的速度减速，但它确实有一些非常明确的规则或不变量，每个驾驶员都必须遵守。
不必指望Aurora Driver能够准确学习德克萨斯州的交通规则，而是能够将道路的硬性规则（例如，Aurora Driver必须在红灯处停车）编码为不变量，这样就可以避免很多打地鼠式的工作。除了这些不变量之外，Aurora的系统还会根据观察专业驾驶员的行为来学习如何驾驶。通过将最佳的现代AI方法与不变量相结合，Aurora能够构建一个行为与人类相似且经过训练能够遵守道路规则的驾驶员。这就是Aurora所说的“可验证AI”。而且，由于道路规则在全国范围内大多是通用的，因此Aurora Driver就像人类驾驶员一样，可以轻松扩展到全国乃至世界大部分地区。
Aurora相信这是自动驾驶技术唯一安全可行的方法。它允许开发团队利用最现代的人工智能技术和工具。同样重要的是，它使Aurora能够向监管机构和其他利益相关者验证和解释该系统是值得信赖的。它有助于确保人类的行为方式能够保障驾驶公众的安全。
可验证的前进之路
在过去的几十年里，随着计算能力的提高，以数据为中心的人工智能系统将胜过手工设计的系统。与此同时，验证和约束人工智能系统行为的需求从未如此强烈，特别是当我们寻求提高美国道路的安全性和生产力时。如果不克服协调挑战，公众和监管机构根本不会接受这项技术。
这就是为什么Aurora建立了一个系统，旨在最大限度地发挥人工智能领域所有突破性工作的优势，同时向市场提供实用、可验证、具有商业可扩展性的解决方案。
本文作者可以追加内容哦 !
