在拉斯维加斯启动“探索活动”,发布了一系列旨在实现企业生成式人工智能开发公告。同时与英伟达()扩大合作伙伴关系,双方共同推出了 AI ,该产品承诺为企业提供软件和计算,用以微调大型语言模型(LLM),并使用云基础设施中的专有数据运行支持人工智能的应用程序。
由于私有数据暴露和未知训练数据的风险,使用公共人工智能模型构建私有应用程序对许多企业来说是不可能的。事实上,人工智能工程平台发布的一项新调查发现,出于数据隐私考虑,超过75%的企业不打算在生产中使用公共商业LLM。
解决方案在于需要安全体系结构来进行公司私有数据训练的自定义模型。公司在使用自己的训练数据开发应用程序时需要灵活性,将其多云方法称为构建定制人工智能模型的安全且有弹性的选择。
AI with 是一套集成的人工智能工具,允许企业在数据中心、公共云或边缘部署基于私有数据训练的人工智能模型。的私有人工智能架构建立在的云基础上,并与的人工智能企业软件和计算基础设施集成。
首席执行官Raghu 表示,除非企业能够在训练、定制和使用其人工智能模型的同时维护数据隐私并将IP风险降至最低,否则生成式人工智能的潜力是无法释放的,“通过 AI,使客户能够利用他们信任的数据,以便他们能够在多云环境中快速、更安全地构建和运行AI模型。”
企业可以选择在哪里使用数据安全体系结构构建和运行模型。和声称,人工智能工作负载可以在单个虚拟机和多个节点中扩展到多达16个GPU,从而降低总体成本并提高效率。此外,表示,其vSAN 存储体系结构将提供性能优化的NVMe存储,并支持RDMA上的GPU 存储,从而允许在不涉及CPU的情况下将I/O从存储直接传输到GPU。
的新平台将采用 NeMo,这是的人工智能框架(包含在其人工智能平台的操作系统 AI 中),结合了定制框架、护栏工具包、数据管理工具和预训练模型。NeMo将用于大型语言模型,这是一项优化 GPU推理性能的服务。和表示,企业可以使用新的 AI 来提取公共模型,如 Face上提供的Llama 2,远程定制它们,并在环境中部署生产级生成式人工智能。
英伟达创始人兼首席执行官黄仁勋表示:“世界各地的企业都在竞相将生成式人工智能融入企业。”“我们与的扩大合作将为金融服务、医疗保健、制造业等领域的数十万客户提供他们所需的全栈软件和计算,以利用利用自己数据构建的自定义应用程序释放生成人工智能的潜力。”
并不是开发人工智能的唯一选择,因为许多人正在转向开源解决方案,这样可以获得使用多种开源工具和框架的能力。对于这些开源人工智能项目,还推出了 AI For open ,该架构集成了合作伙伴的OSS技术,以提供一个开放参考架构,用于在 Cloud 的基础上构建和服务OSS模型。
其中一个技术合作伙伴是,它是广泛采用的开源统一计算框架Ray的开发人员。表示,数据科学家和ML工程师可以在的云基础上使用Ray来扩展AI和工作负载,方法是利用他们当前的ML工作负载计算足迹,而不是默认使用公共云。
首席执行官 在一份新闻稿中评论道,公司正在努力保持在人工智能的前沿,同时快速扩展、生产和迭代。
他说:“因为Ray可以在任何地方运行——在任何云提供商上、在本地、在您的笔记本电脑上——而的客户在任何地方都可以运行,这是一种自然的合作,可以让公司更容易地使用生成人工智能加速业务。”
人工智能实验室副总裁Chris Wolf表示:“人工智能传统上是由数据科学家为数据科学家构建和设计的。”“随着这些新的私有人工智能产品的推出,通过使计算和人工智能模型的选择更接近数据,使未来人工智能为企业中的每个人服务。我们的私有人工智能方法有利于企业,从软件开发和营销内容生成到客户服务任务,以及从法律文件中获取见解。”
除了新的私有人工智能产品外,还发布了 (智能助理),这是一系列基于数据的生成式人工智能解决方案,将在多云环境中自动化企业IT的各个方面。该公司表示, 将集成到包括 Tanzu在内的多个产品中,该产品将通过允许用户通过对话请求和完善对其企业云基础设施的更改来应对多云可见性和配置的挑战。 ONE也将包括它,并允许用户使用自然语言提示创建高质量的脚本。NSX+是另一项将通过这些新的生成式人工智能功能进行增强的服务,它将帮助安全分析师确定安全警报的相关性,以更有效地补救威胁。