帮助企业更负责任地部署人工智能模型

2023年6月29日最新消息：帮助企业更负责任地部署人工智能模型

如今的公司正在将人工智能融入其业务的各个角落。预计这一趋势将持续下去，直到机器学习模型被纳入我们每天互动的大多数产品和服务中。

随着这些模型成为我们生活中越来越重要的一部分，确保它们的完整性变得更加重要。这就是 Verta 的使命，Verta 是一家从麻省理工学院计算机科学与人工智能实验室 (CSAIL) 衍生出来的初创公司。

Verta 的平台可帮助公司大规模安全地部署、监控和管理机器学习模型。数据科学家和工程师可以使用 Verta 的工具来跟踪不同版本的模型、审核它们的偏差、在部署之前对其进行测试，并监控它们在现实世界中的性能。

Verta 创始人兼首席执行官 Manasi Vartak SM ’14、PhD ’18 表示：“我们所做的一切都是为了利用人工智能构建更多产品，并且安全地做到这一点。” “我们已经通过 ChatGPT 看到了如何使用人工智能来生成数据、人工制品——凡是你能想到的——看起来正确但实际上并不正确。人工智能的使用方式需要更多的治理和控制，特别是对于提供人工智能解决方案的企业而言。”

Verta 目前正在与医疗保健、金融和保险领域的大公司合作，帮助他们理解和审核模型的建议和预测。它还与许多高增长的科技公司合作，希望加快部署新的人工智能解决方案，同时确保这些解决方案得到适当使用。

Vartak 表示，该公司已经能够将客户部署人工智能模型所需的时间缩短几个数量级，同时确保这些模型是可解释和公平的——这对于高度监管行业的公司来说尤其重要。

例如，医疗保健公司可以使用 Verta 来改进人工智能驱动的患者监测和治疗建议。此类系统在用于患者之前需要彻底审查是否存在错误和偏见。

“无论是偏见、公平性还是可解释性，这都可以追溯到我们的模型治理和管理理念，”Vartak 说。“我们将其视为飞行前检查表：在飞机起飞之前，在飞机离开地面之前需要执行一系列检查。这与人工智能模型类似。你需要确保你已经完成了偏差检查，你需要确保有一定程度的可解释性，你需要确保你的模型是可重复的。我们为这一切提供帮助。”

从项目到产品

在来到麻省理工学院之前，Vartak 曾在一家社交媒体公司担任数据科学家。在一个项目中，在花了数周时间调整机器学习模型以在人们的提要中展示内容后，她了解到一名前雇员已经做了同样的事情。不幸的是，没有记录表明他们做了什么或者它如何影响模型。

为了攻读麻省理工学院的博士学位，Vartak 决定构建工具来帮助数据科学家开发、测试和迭代机器学习模型。Vartak 在 CSAIL 数据库小组工作，招募了一支由研究生和麻省理工学院本科生研究机会计划 (UROP) 参与者组成的团队。

“如果没有我在麻省理工学院和麻省理工学院生态系统的工作，Verta 就不会存在，”Vartak 说。“麻省理工学院汇集了技术前沿的人们，帮助我们构建下一代工具。”

该团队与 CSAIL 联盟计划中的数据科学家合作，根据早期采用者的反馈来决定构建和迭代哪些功能。Vartak 表示，最终的项目名为 ModelDB，是第一个开源模型管理系统。

Vartak 在攻读博士学位期间还在麻省理工学院斯隆管理学院学习了几门商业课程，并与同学一起创办了推荐服装和跟踪健康状况的初创公司，在麻省理工学院马丁信托创业中心度过了无数个小时，并参加了该中心的 Delta V 夏季加速器。

“麻省理工学院让你在安全的环境中冒险并失败，”瓦尔塔克说。“麻省理工学院为我提供了创业机会，并向我展示了如何构建产品和寻找第一批客户，所以当 Verta 出现时，我已经在较小的规模上做到了这一点。”

ModelDB 帮助数据科学家训练和跟踪模型，但 Vartak 很快发现，一旦大规模部署模型，风险就更大。到那时，尝试改进（或意外破坏）模型可能会对公司和社会产生重大影响。这一洞察促使 Vartak 开始构建 Verta。

“在 Verta，我们帮助管理模型、帮助运行模型并确保它们按预期工作，我们称之为模型监控，”Vartak 解释道。“所有这些作品都可以追溯到麻省理工学院和我的论文工作。Verta 确实是从我在麻省理工学院的博士项目演变而来的。”

Verta 的平台可帮助公司更快地部署模型，确保模型随着时间的推移继续按预期工作，并管理模型的合规性和治理。数据科学家可以使用 Verta 跟踪不同版本的模型并了解它们是如何构建的，回答诸如如何使用数据以及运行哪些可解释性或偏差检查等问题。他们还可以通过部署检查表和安全扫描来对它们进行审查。

“Verta 的平台采用数据科学模型，并添加了六层，将其转变为可用于为网站上的整个推荐系统提供支持的东西，”Vartak 说。“这包括性能优化、扩展和周期时间（即您可以多快地将模型转变为有价值的产品）以及治理。”

支持AI浪潮

瓦尔塔克表示，大公司经常使用数千种不同的模型，这些模型几乎影响其运营的每个部分。

“例如，一家保险公司将在从承保到索赔、后台处理、营销和销售的各个方面使用模型，”瓦尔塔克说。“因此，模型的多样性确实很高，数量很大，而且公司对这些模型所需的审查和合规水平非常高。他们需要了解以下信息：您是否使用了应该使用的数据？审查它的人是谁？您是否进行了可解释性检查？你进行过偏见检查吗？”

Vartak 表示，不采用人工智能的公司将会被抛在后面。与此同时，利用人工智能取得成功的公司将需要制定明确的流程来管理其不断增长的模型列表。

“未来 10 年，我们交互的每台设备都将内置智能，无论是烤面包机还是电子邮件程序，这将使您的生活变得更加轻松，”Vartak 说。“要实现这种智能，需要更好的模型和软件，例如 Verta，它们可以帮助您快速将人工智能集成到所有这些应用程序中。”

323ai导航网发布