亚历山大·马德里 (Aleksander Mądry) 敦促立法者就企业如何使用人工智能工具提出严格的问题。
麻省理工学院 Cadence 设计系统计算教授兼麻省理工学院可部署机器学习中心主任 Aleksander Mądry 周三对国会小组表示，政府不应“放弃”其责任，将人工智能的未来之路完全留给大型科技公司。
相反，马德里说，政府应该询问公司正在使用的算法的目的和可解释性，作为监管的先驱，他将其描述为确保人工智能与社会目标一致的“重要工具”。马德里在回答众议员杰拉尔德·康诺利的问题时表示，如果政府不开始提出问题，那么“我非常担心”人工智能的未来。
Mądry 是可解释性和人工智能方面的领先专家，他在题为“人工智能的进展：我们准备好迎接技术革命了吗？”的听证会上作证。众议院网络安全、信息技术和政府创新小组委员会（众议院政府改革和监督委员会的一个小组）。听证会的其他证人包括谷歌前首席执行官埃里克·施密特、IBM 副总裁斯科特·克劳德以及人工智能和数字政策中心高级研究总监 Merve Hickok。
小组委员会主席众议员 Nancy Mace 在开幕致辞中引用了 Schmidt、Henry Kissinger 和 MIT Schwarzman 计算学院院长 Dan Huttenlocher 所著的《人工智能时代：和我们人类的未来》一书。她还提请注意三位作者3 月 3 日在《 华尔街日报》上发表的一篇评论文章，该文章在讨论 ChatGPT 时总结了这本书。梅斯表示，她的正式开场白完全由 ChatGPT 撰写。
马德里在准备好的讲话中提出了三个要点。首先，他指出人工智能“不再是科幻小说中的问题”或仅限于研究实验室。它在世界上可以带来巨大的好处，但也带来风险。
其次，他说人工智能让我们面临“违背我们直觉的互动”。他说，由于像 ChatGPT 这样的人工智能工具模仿人类交流，人们很可能毫无疑问地相信如此大型的语言模型产生的结果。马德里警告说，在最坏的情况下，人类的分析能力将会萎缩。他还表示，像监管人类一样监管人工智能是错误的——例如，要求人工智能解释其推理并假设得出的答案是可信的。
最后，他表示，人们对人工智能“供应链”性质（即人工智能系统相互构建的方式）所产生的问题关注得太少。其基础是像 ChatGPT 这样的通用系统，它只能由少数公司开发，因为它们的构建成本高昂且复杂。在此类系统之上是许多旨在处理特定任务的人工智能系统，例如确定公司应该雇用谁。
马德里表示，这种分层引发了一些“与政策相关”的担忧。首先，整个人工智能系统会受到其基础大系统中任何漏洞或偏见的影响，并且依赖于少数大公司的工作。其次，从技术角度来看，人工智能系统的交互还没有得到很好的理解，这使得人工智能的结果更加难以预测或解释，也使得工具难以“审计”。最后，人工智能工具的混合使得在出现问题时很难知道谁应该负责——谁应该承担法律责任以及谁应该解决问题。
在提交给小组委员会的书面材料中，马德里总结道：“人工智能技术并不是特别适合通过复杂的供应链进行部署”，尽管这正是它的部署方式。
马德里在证词结束时呼吁国会调查人工智能问题并准备采取行动。“就未来人工智能将带来的影响而言，我们正处于一个拐点。抓住这个机会意味着讨论人工智能的作用，我们到底希望它为我们做什么，以及如何确保它使我们所有人受益。这将是一场艰难的对话，但我们确实需要进行，而且现在就进行，”他告诉小组委员会。
323ai导航网发布
相关文章
