爱奇飞网

网站首页数码科技 >正文

NVIDIA推出的AI云数据SuperNIC网络加速器

开心的月饼 2023-12-19 08:52:12 数码科技

人工智能(AI)的出现及其随后的发展给技术格局带来了重大转变。经历这种转变的领域之一是云计算,传统的基于以太网的云网络在处理现代人工智能工作负载的计算要求方面面临着挑战。这导致了SuperNIC的出现,这是一种新型网络加速器,专门设计用于增强基于以太网的云中的人工智能工作负载。

NVIDIA推出的AI云数据SuperNIC网络加速器

SuperNIC(或超级网络接口卡)具有区别于传统网络接口卡(NIC)的独特功能。其中包括高速数据包重新排序、高级拥塞控制、I/O路径上的可编程计算、节能设计和全栈人工智能优化。这些功能旨在为GPU到GPU通信提供高速网络连接,使用RDMAoverRoCE技术,速度高达400Gb/s。

SuperNIC的功能在当前的人工智能领域尤为重要,生成式人工智能和大型语言模型的出现提出了前所未有的计算需求。传统以太网和基础网卡在设计时并未考虑到这些需求,因此难以跟上。另一方面,SuperNIC专为这些现代人工智能工作负载而构建,提供高效的数据传输、低延迟和确定性的性能。

什么是SuperNIC?它为何如此重要?

SuperNIC和数据处理单元(DPU)之间的比较很有趣。DPU提供高吞吐量和低延迟的网络连接,而SuperNIC则更进一步,专门针对加速AI网络进行了优化。这种优化在系统内GPU和SuperNIC之间的1:1比例中体现得很明显,这种设计选择可以显着提高AI工作负载效率。

这项新技术的一个典型例子是NVIDIA的BlueField-3SuperNIC,这是世界上第一个用于AI计算的SuperNIC。该SuperNIC基于BlueField-3网络平台并与Spectrum-4以太网交换机系统集成,构成旨在优化AI工作负载的加速计算结构的一部分。

NVIDIABlueField-3SuperNIC具有多项优势,使其成为AI计算环境中的宝贵资产。它提供峰值人工智能工作负载效率、一致且可预测的性能以及安全的多租户云基础设施。此外,它还提供可扩展的网络基础设施和广泛的服务器制造商支持,使其成为满足各种人工智能需求的多功能解决方案。

SuperNIC的出现标志着AI云计算的演进迈出了重要一步。通过提供高速、高效和优化的网络加速,NVIDIABlueField-3SuperNIC等SuperNIC有望彻底改变基于以太网的云中处理AI工作负载的方式。随着AI领域的不断发展和发展,SuperNIC在促进这一增长方面的作用无疑将变得更加突出。


版权说明:本站所有作品图文均由用户自行上传分享,仅供网友学习交流。若您的权利被侵害,请联系我们


标签:

站长推荐
栏目推荐
阅读排行