跳动城乡网谷歌宣布推出该公司“最强大”的可扩展且灵活的人工智能加速器，称为CloudTPUv5p以及新的人工智能超级计算机模型。
谷歌计划通过其全新的云TPVv5p芯片和人工智能超级计算机解决方案占领人工智能潮流
随着人工智能市场的快速发展，在为持续开发提供计算能力方面，公司正在转向他们的解决方案。像Microsoft的Maia100AIAccelerator和Amazon的Trainium2这样的公司的目标是在处理AI工作负载的性能优化硬件方面超越彼此，而Google也确实加入了这个名单。
现在，谷歌已经推出了几个令人兴奋的元素，例如针对人工智能行业的新Gemini模型，但我们的报道将更多地集中在硬件方面。CloudTPUv5p是Google迄今为止功能最强大且最具成本效益的TPU(云张量处理单元)。每个TPUv5pPod由多达8,960个芯片组成，使用最高带宽的芯片间连接(每芯片4,800Gbps)进行互连，确保快速传输速度和最佳性能。谷歌并不打算退缩，因为即将到来的代际飞跃数字会让你大吃一惊。
与TPUv4相比，新发布的v5p具有两倍的FLOPS(每秒浮点运算)和三倍的高内存带宽，这在人工智能领域是令人惊叹的。
此外，在模型训练方面，TPUv5p在LLM训练速度上显示出2.8倍的代际跳跃。谷歌还创造了空间来挤出更多的计算能力，因为TPUv5p“就每个Pod的总可用FLOP而言，可扩展性比TPUv4高4倍”。
总结一下GoogleCloudTPUv5p：
与TPUv4相比，浮点运算次数增加2倍(459TFLOPsBf16/918TOPsINT8)
内存容量比TPUv4(95GBHBM)高出3倍
LLM培训速度提高2.8倍
嵌入密集模型训练速度提高1.9倍
与TPUv4相比，带宽增加2.25倍(2765GB/秒vs1228GB/秒)
与TPUv4相比，芯片间互连带宽是原来的2倍(4800Gbps与2400Gbps)
谷歌已经认识到在拥有最好的硬件和软件资源方面取得了明显的成功，这就是该公司拥有人工智能超级计算机的原因，它是一组旨在协作工作以实现现代人工智能工作负载的元素。谷歌集成了性能优化计算、最佳存储和液体冷却等功能，以充分利用巨大的功能，输出的性能确实是行业奇迹。
