带有粗体字“SCORE”的仪表的特写图像。 级别以彩虹色显示，选项有非常差、差、一般、好、非常好和优秀。 指针指向优秀。
尽管其规模和能力巨大，但当今的人工智能系统通常无法区分幻觉和现实。自动驾驶系统可能无法感知前方的行人和紧急车辆，从而造成致命的后果。对话式人工智能系统自信地编造事实，经过强化学习训练后，往往无法准确估计自身的不确定性。
麻省理工学院和加州大学伯克利分校的研究人员共同开发了一种新方法，用于构建复杂的人工智能推理算法，该算法可同时生成数据的可能解释集合，并准确估计这些解释的质量。
新方法基于称为顺序蒙特卡罗 (SMC) 的数学方法。SMC 算法是一组已广泛用于不确定性校准人工智能的既定算法，通过提出对数据的可能解释，并在给出更多信息时跟踪所提出的解释的可能性或可能性。但 SMC 对于复杂的任务来说过于简单。主要问题是，算法的核心步骤之一——实际猜测可能的解释的步骤（在跟踪不同假设相对于彼此的可能性的另一步骤之前）——必须非常简单。在复杂的应用领域，查看数据并对正在发生的事情做出合理的猜测本身就是一个具有挑战性的问题。以自驾为例，这需要查看自动驾驶汽车摄像头的视频数据，识别道路上的汽车和行人，并猜测当前隐藏在视线之外的行人的可能运动路径。从原始数据中做出合理的猜测可能需要常规 SMC 无法支持的复杂算法。
这就是新方法 SMC 与概率程序建议 (SMCP3) 的用武之地。SMCP3 使得使用更智能的方式猜测数据的可能解释、根据新信息更新这些建议的解释以及估计数据的质量成为可能。这些解释是以复杂的方式提出的。SMCP3 通过允许使用任何概率程序（任何允许做出随机选择的计算机程序）作为提出（即智能猜测）数据解释的策略来实现这一点。之前版本的 SMC 只允许使用非常简单的策略，简单到可以计算出任何猜测的准确概率。这种限制使得使用多阶段猜测过程变得困难。
研究人员的 SMCP3 论文表明，通过使用更复杂的提议程序，SMCP3 可以提高 AI 系统跟踪 3D 对象和分析数据的准确性，还可以提高算法自身对数据可能性的估计的准确性。麻省理工学院和其他人之前的研究表明，这些估计可用于推断推理算法相对于理想化贝叶斯推理器解释数据的准确程度。
该论文的共同第一作者 George Matheos（麻省理工学院电气工程和计算机科学 [EECS] 即将入学的博士生）表示，最让他兴奋的是 SMCP3 的潜力，即在复杂的环境中使用易于理解的、经过不确定性校准的算法变得切实可行。旧版本 SMC 无法工作的问题设置。
“今天，我们有很多新算法，其中许多基于深度神经网络，它们可以根据数据，在各种问题领域提出世界上可能发生的事情。但通常，这些算法并没有真正经过不确定性校准。他们只是输出关于世界上可能发生的事情的一个想法，并且不清楚这是否是唯一合理的解释，或者是否还有其他解释 – 或者即使这首先是一个很好的解释！但有了 SMCP3，我认为将有可能使用更多这些智能但难以信任的算法来构建不确定性校准的算法。随着我们使用“人工智能”系统在生活中越来越多的领域做出决策，拥有我们可以信任的、能够意识到其不确定性的系统对于可靠性和安全性至关重要。”
该论文的高级作者 Vikash Mansinghka 补充道：“第一台电子计算机是为了运行蒙特卡罗方法而构建的，它们是计算和人工智能领域使用最广泛的技术之一。但从一开始，蒙特卡罗方法就设计和实现起来很困难：数学必须手工推导，并且有许多微妙的数学限制用户必须意识到。SMCP3 同时自动化了硬数学，并扩展了设计空间。我们已经用它来思考我们以前无法设计的新人工智能算法。”
该论文的其他作者包括共同第一作者 Alex Lew（麻省理工学院 EECS 博士生）；麻省理工学院 EECS 博士生 Nishad Gothoskar、Matin Ghavamizadeh 和 Tanzhi-Xuan；和加州大学伯克利分校教授斯图尔特·拉塞尔（Stuart Russell）。这项工作于 4 月在西班牙巴伦西亚举行的 AISTATS 会议上进行了展示。
323ai导航网发布
相关文章
