科技魔方

谷歌推出超级电脑架构 Hypercomputer:整合主流深度学习框架、采用灵活定价策略

大模型

2023年12月07日

  谷歌今日在推出全新大语言模型Gemini 1.0、云端AI芯片TPU v5p外,还推出了超级电脑架构AI Hypercomputer。

  IT之家获悉,AI Hypercomputer 电脑架构号称“软硬结合”,整合了为 AI 优化的硬件、开源软件、主流深度学习框架,并号称采用灵活的定价模式,便于商业及研究部门使用。

  谷歌介绍称,传统深度学习硬件主要凭借硬件性能来加强 AI 计算速度,而 AI Hypercomputer 超级电脑架构实现了“软硬结合”,利用软件与硬件的协同式设计,提升 AI 训练效率。

  谷歌声称,AI Hypercomputer 支持 JAX、TensorFlow 与 PyTorch 等深度学习框架,以及 Multislice Training 与 Multihost Inferencing 等软件,还深度整合了谷歌Kubernetes Engine(GKE)与Compute Engine两款基础架构服务。

  IT之家同时发现,谷歌强调了 AI Hypercomputer 在定价费率方面的独特性,谷歌声称该 AI 结构提供了更灵活的消费模式,使用了一项名为“Dynamic Workload Scheduler”的平台计费基准,提供“Flex Start”与“Calendar”。

  Flex Start 主要用来微调模型,承载学术实验及较短的训练任务,或进行蒸馏、离线推理及批量性的任务,计费标准主要基于 AI 任务所使用的 GPU 与 TPU 量。

  而 Calendar 模式则可替 AI 任务预留开始时间,适用于需要精确开始时间及模型训练持续时间的任务,计费标准主要基于时间长度。

+1

来源:IT之家

延展资讯