爱奇飞网

网站首页数码科技 >正文

亚马逊推出下一代Graviton4和Trainium2芯片为商业人工智能的未来提供动力

开心的月饼 2023-12-04 14:09:12 数码科技

AWS今天推出了最强大、最高效的芯片,重申了其成为全球主要硬件提供商之一的意图。新型Graviton4和Trainium2芯片在AWSre:Invent2023上亮相旨在为下一代人工智能和机器学习模型提供动力,提供比以往更高的性能和效率。

亚马逊推出下一代Graviton4和Trainium2芯片为商业人工智能的未来提供动力

AWS计算和网络副总裁DavidBrown表示:“硅支撑着每个客户工作负载,使其成为AWS创新的关键领域。”“通过将我们的芯片设计重点放在对客户重要的实际工作负载上,我们能够为他们提供最先进的云基础设施。

AWS承诺Graviton4将会取得重大进步,声称与当前一代Graviton3处理器相比,它的计算性能提高了30%,核心数量增加了50%,内存带宽增加了75%。

该公司表示,随着他们试验和部署越来越多的人工智能驱动的工作负载,客户发现他们的计算、内存、存储和网络需求不断增加,因此需要更高的性能和更大的实例大小,所有这些都以可承受的成本和能效水平进行以减少对环境的影响。

AWS正在Amazon上提供Graviton4据称该实例可提供更大的实例大小,比当前一代多出三倍多的vCPU和三倍多的内存,从而使客户能够处理更大量的数据、扩展工作负载、缩短交付时间。-结果,并降低总体拥有成本。

继2020年首次推出后,第二代Trainium2旨在为当前和未来的人工智能模型提供更快、更高效的训练,这些模型使用比以往更大的数据集,当今最先进的FM和LLM拥有数千亿到数万亿的参数。

AWS表示,Trainium2的训练速度将比第一代硬件快四倍,内存容量增加三倍,能源效率提高两倍。

它可以部署在多达100,000个芯片的EC2UltraClusters中,从而可以用以前的一小部分时间来训练基础模型和大型语言模型,该公司给出了在几周内训练一个3000亿参数的LLM的例子,而几个月。


版权说明:本站所有作品图文均由用户自行上传分享,仅供网友学习交流。若您的权利被侵害,请联系我们


标签:

站长推荐
栏目推荐
阅读排行