当地时间8月29日, Cloud Next 2023大会在美国旧金山正式举办。
大会紧密围绕AI这一主题展开, Cloud推出了20余款新品及更新,涵盖了整个基础设施、数据、协同办公和网络安全解决方案等众多板块,并突出强调了该公司2023年的关注重点——生成式AI。
在开幕演讲上,谷歌CEO皮柴说道:“人工智能正在改变着我们的生活和工作方式,而 Cloud是能够帮助我们分享最前沿人工智能技术、推进创新的绝佳平台。”
01
新型AI芯片Cloud TPU v5e
性能提高2倍,成本降低一半
TPU是谷歌专门为机器学习(ML)/深度学习(DL)设计的专用AI加速芯片。
当晚,谷歌云推出了新一代的AI芯片Cloud TPU v5e,目前提供的只是预览版。
Cloud TPU v5e专为精进大中型模型的训练、推理性能以及成本效益所设计。
谷歌云表示,该版本芯片的开发重点是效率,与上一代TPU v4相比,TPU v5e每一美元的训练性能提高2倍,每一美元的推理性能提高2.5倍,而成本不到TPU v4的一半,使得更多组织能够训练和部署更大更复杂的AI模型。
谷歌云将TPU v5e描述为“超级计算机”,最多允许256个芯片互连,总带宽超过400 Tb/s。
此外,其支持八种不同的虚拟机配置,客户可选择合适的配置服务于各种大语言模型和生成式AI模型,而选择范围从一个TPU芯片到单个切片内256个TPU芯片。
对于那些需要更多算力的用户,谷歌也正在推出“”,这是一种将模型交给数万个TPU芯片计算的服务。
谷歌计算和机器学习基础设施副总裁Mark 在联合博客文章中表示:“借助,开发人员可以在单个Pod内通过芯片间互连(ICI)或通过数据中心网络(DCN)跨多个Pod将工作负载扩展到数万个芯片。”
据速度基准测试,在TPU v5e上训练和运行AI模型时速度提高了5倍。
同时,推理指标的规模有了巨大提升:在一秒钟内,能实时处理1000秒的内部语音到文本和情感预测模型,比之前提升了6倍。
02
联手英伟达
A3虚拟机下月正式上市
在 Cloud Next 2023大会上,英伟达CEO黄仁勋惊喜亮相大会现场,与谷歌一起宣布,搭载英伟达H100 GPU的A3虚拟超级计算机(VM)实例将于9月全面上市。
其实早在5月份,谷歌就推出了A3 GPU超级计算机的私人预览版,现在是正式公布,预计9月份上市。
据了解,本次发布的A3虚拟机采用高性能网络和其他先进技术专门构建,将会配备8个 H100 GPU、两个第四代Intel Xeon可扩展处理器、2TB内存以及定制的Intel 200G IPU(基础设施处理单元)网络组成,可实现当今最苛刻的生成式AI和LLM创新。
与使用传统 A100 GPU的A2相比,学习和推理过程中的性能提升了3倍,带宽提升了10倍。可扩展到数万个 H100 GPU,规模可提供高达26 (即)的AI性能。
此外,黄仁勋和 还宣布在 Cloud中开发一款新型超级计算机,该计算机将使用正在开发的下一代AI芯片。
03
Duet AI性能增强
化身打工人“摸鱼神器”
Duet AI在今年5月的谷歌I/O大会上推出,它是基于PaLM 2大模型调整而来,对标微软的AI助手。
当时,Duet AI的能力主要包括自动生成文案、PPT、邮件,处理Excel的数据等一些概念性能力。
本次大会上,谷歌云宣布在和谷歌云两个方面对Duet AI进行了一系列功能增强。
是谷歌旗下的办公和协作工具,拥有超过30亿用户和超过1000万付费客户。
在方面,Duet AI将于当日全面推出GA版本,分别针对 Meet和 Chat两方面进行了升级。
针对 Meet,Duet AI推出了“为我做笔记”功能,能够实时捕获笔记、操作项和视频片段,这些笔记可以保存到文档,并在会议结束后作为摘要发送给与会者。
并且,它甚至提供了帮助迟到者快速了解会议的“到目前为止的摘要”,这可以快速概括他们错过的所有内容。
更逆天的是,如果你无法参会(或者不想参会),那么可以点击“替我参加”的选项,Duet AI将能够做你的“AI化身”参加会议。并且,他还能在合适的时机发言提问。
除此之外,如果是国际会议,Duet AI还可以自动检测参会者所说的语言,且支持18种语言的自动翻译。
并且,为了确保每位与会者都能清楚地看到、听到和理解会议内容,还提供了演播室外观、演播室灯光和演播室声音。
目前,所有用户都可以在谷歌官网上申请免费试用Duet AI。要知道,先前Duet AI每位用户的订阅费用为30美元/月。
但谷歌也表示将在未来几个月为消费者、中小型企业和其他人提供额外的等级和定价。
04
谷歌云集成Duet AI
功能再升级
谷歌也在 Cloud上扩展了Duet AI,以帮助加速应用程序开发、运营、数据库管理和迁移、数据分析和可视化进程以及进一步优化网络安全。
首先,在应用程序开发方面,Duet AI能在代码生成、源引用、测试覆盖率、设计和发布API、应用程序迁移等环节,发挥辅助作用。
借助 Duet AI,开发人员可以使用自然语言快速理解复杂的代码和API,并将代码从一种语言迁移并重构为另一种语言。
值得注意的是,Duet AI除了可以在 Cloud控制台、Cloud 和 Cloud Shell 中使用,还可以通过Cloud Code IDE扩展功能,在、CLion、等主流的第三方IDE中被集成调用。
其次,Duet AI还能够大幅简化基础设施和应用程序的日常操作和管理工作。用户向 Cloud (监控云资源的设施)的Duet AI输入自然语言,就能快速掌握基础设施配置,获得提升利用率和性能的操作方法建议。
在数据分析方面,用户可以利用中的Duet AI进行快速数据分析。
在数据库管理方面,Cloud 、和Cloud SQL中的Duet AI可以帮助生成代码,以便于使用自然语言构建、修改或查询数据。
在网络安全方面,Duet AI将引入谷歌云安全产品中,包括安全运营( )、威胁情报( )和安全指挥中心( ),可以使安全专业人员更有效地预防威胁,减少安全工作流程中的工作量,并提高安全人才的水平。
此外,谷歌还保证,用户的代码、在Duet AI的输入以及Duet AI生成的建议不会用于训练任何公用模型,也不会用于开发任何产品。
05
拓展 AI平台模型
打造AI全生态
打造AI全生态是谷歌追求的目标,谷歌AI生态的建设离不开 AI。会上,谷歌宣布对 AI进行了多方面的更新。
AI是谷歌云在2021年5月发布的机器学习平台服务(ML PaaS),它可以训练和部署机器学习模型和AI应用,并自定义大语言模型(LLM)。
本次大会上,谷歌宣布 AI新增了来自Meta的Llama 2和Code Llama,以及技术创新研究所(TII)的 LLM。
此外,的 2在未来也将会加入其中。模型的多样性带来了更多的选择,能够更普遍地满足企业和开发者的个性化需求。
与此同时,谷歌也对自己的模型,PaLM 2、Codey和,进行了调整升级。
目前,PaLM可支持38种语言、3.2万个token上下文窗口,Codey的代码生成质量提到了25%;改进了视觉吸引力,最近还添加了图像编辑、字幕以及视觉问题和答案等功能。
此外, AI还为开发人员提供了筛选功能。用户可根据功能、规模、定制可能性等来为用例选择最适合的模型,不仅能够访问强大的基础模型,而且还能够获得调整所需的选择和灵活性并大规模部署模型。
06
全球首个AI水印识别工具
上线
会上,谷歌还推出了一款能为AI生成的图像打上水印并进行检测和识别的工具。
先前,、微软、谷歌、Meta、亚马逊、和等七家科技巨头公司就曾宣布,将会开发出一种水印技术,添加在所有由AI生成的内容上面。其功能在于,嵌入AI生成的内容后,用户就可以知道当前生成品的来历,是由哪个生成式AI工具生产的。
这项功能的意义在于,能够区别AI生成的内容和人类生成内容,既避免了无意识状态下,AI训练AI事件的发生,也能帮助识别AI生产的深度伪造内容,对于信息的真实性具有很大保障。
由 AI与 合作推出。可将水印缩小为以肉眼不可见的像素级别,然后直接嵌入图像中。
谷歌云称,他们是首家为AI生成的图像提供这项技术的超大规模云计算供应商。并表示之后可能还会面向音频、视频和文本等模态推出类似的工具。