爱奇飞网

网站首页生活常识 >正文

ChatGPT背后的人工智能技术是在爱荷华州建立的

开心的月饼 2023-09-10 08:46:15 生活常识

构建像ChatGPT这样的人工智能产品的成本很难衡量。但微软支持的OpenAI的技术需要大量的水,这些水是从爱荷华州中部的浣熊河和得梅因河的分水岭抽取的,用于冷却一台强大的超级计算机,因为它有助于教会人工智能系统如何模仿人类书写。

ChatGPT背后的人工智能技术是在爱荷华州建立的

在竞相利用生成式人工智能的热潮时,包括微软、OpenAI和谷歌在内的领先技术开发商承认,对其人工智能工具不断增长的需求带来了巨大的成本,从昂贵的半导体到水消耗的增加。

但他们往往对具体细节守口如瓶。爱荷华州很少有人知道它是OpenAI最先进的大型语言模型GPT-4的诞生地,直到一位微软高管在一次演讲中表示它“实际上是在得梅因以西的玉米地旁边建造的”。

构建大型语言模型需要分析大量人类书写文本的模式。所有这些计算都会消耗大量电力并产生大量热量。为了在炎热的天气里保持凉爽,数据中心需要泵入水——通常是泵入仓库大小的建筑外的冷却塔。

微软在其最新的环境报告中透露,从2021年到2022年,其全球用水量猛增了34%(达到近17亿加仑,相当于2,500多个奥林匹克规模的游泳池),外部研究人员认为,与前几年相比,这一数字急剧增加。它的人工智能研究。

加州大学河滨分校研究员ShaoleiRen表示,“可以公平地说,大部分增长都归功于人工智能”,包括“对生成式人工智能的大量投资以及与OpenAI的合作”。ChatGPT等生成式人工智能产品对环境的影响。

在将于今年晚些时候发表的一篇论文中,Ren的团队估计,每当你向ChatGPT提出一系列5到50个提示或问题时,ChatGPT就会喝下500毫升水(接近16盎司水瓶中的水量)。该范围根据服务器所在位置和季节而有所不同。该估算包括公司未测量的间接用水量,例如冷却为数据中心供电的发电厂的用水量。

“大多数人不知道ChatGPT底层的资源使用情况,”Ren说。“如果您不了解资源的使用情况,那么我们就无法帮助节省资源。”

2023年9月5日星期二,爱荷华州西得梅因,35号州际公路附近有一座微软数据中心。十多年来,微软一直在积累数据中心集群来为其云计算服务提供支持。它在该市的第四和第五个数据中心将于今年晚些时候开放。图片来源:美联社照片/CharlieNeibergall

谷歌报告同期用水量增长了20%,任正非也将这很大程度上归功于其人工智能工作。谷歌的用水量增长并不均匀——在俄勒冈州保持稳定,该州的用水量引起了公众的关注,而在拉斯维加斯以外的地区则翻了一番。爱荷华州也很口渴,向其康瑟尔布拉夫斯数据中心输送的饮用水比其他任何地方都多。

在回答美联社的提问时,微软在本周的一份声明中表示,它正在投资研究来衡量人工智能的能源和碳足迹,“同时致力于使大型系统在训练和应用方面更加高效”。

“我们将继续监测我们的排放,加快进展,同时增加使用清洁能源为数据中心供电、购买可再生能源以及其他努力,以实现我们到2030年实现碳负、水正和零浪费的可持续发展目标。”公司声明称。

OpenAI在周五的声明中回应了这些评论,称它正在“认真考虑”如何最好地利用计算能力。

声明称,“我们认识到训练大型模型可能会消耗大量能源和水资源”,因此正在努力提高效率。

微软于2019年向总部位于旧金山的OpenAI进行了首笔10亿美元投资,两年多前,这家初创公司推出了ChatGPT,并引发了全世界对人工智能进步的关注。作为交易的一部分,这家软件巨头将提供训练人工智能模型所需的计算能力。

为了至少完成其中部分工作,两家公司将目光投向了爱荷华州的西得梅因市,这座拥有68,000人口的城市十多年来,微软一直在该市建立数据中心,为其云计算服务提供支持。它的第四和第五个数据中心将于今年晚些时候在那里开放。

“他们正在尽快建造它们,”微软进驻该市时担任该市市长的史蒂夫·盖尔(SteveGaer)说。盖尔表示,该公司被该市建设公共基础设施的承诺所吸引,并通过支持这项投资的纳税贡献了“惊人”的资金。

“但是,你知道,他们对自己在那里所做的事情非常保密,”他补充道。

2023年9月5日星期二,爱荷华州西得梅因,35号州际公路附近有一座微软数据中心。十多年来,微软一直在积累数据中心集群来为其云计算服务提供支持。它在该市的第四和第五个数据中心将于今年晚些时候开放。图片来源:美联社照片/CharlieNeibergall

微软首先表示正在2020年为OpenAI开发世界上最强大的超级计算机之一,当时拒绝向美联社透露其位置,但将其描述为一个“单一系统”,拥有超过285,000个传统半导体核心和10,000个图形处理器——一种对人工智能工作负载至关重要的芯片。

专家表示,由于需要在计算核心之间传输大量数据,因此在单个位置“预训练”人工智能模型是有意义的。

直到5月下旬,微软总裁布拉德·史密斯(BradSmith)才透露,该公司已在爱荷华州建立了“先进人工智能超级计算数据中心”,专门用于让OpenAI训练其第四代模型GPT-4。该模型现在为ChatGPT的高级版本和微软自己的一些产品提供支持,并加速了有关遏制人工智能社会风险的争论。

“它是由加利福尼亚州这些杰出的工程师制造的,但它实际上是在爱荷华州制造的,”史密斯说。

在某些方面,西得梅因是训练强大人工智能系统的相对有效的地方,特别是与微软位于亚利桑那州的数据中心相比,后者在满足相同的计算需求时消耗更多的水。

“因此,如果你在微软内部开发人工智能模型,那么你应该将培训安排在爱荷华州而不是亚利桑那州,”任说。“就训练而言,没有什么区别。就水消耗或能源消耗而言,有很大区别。”

一年中的大部分时间,爱荷华州的天气足够凉爽,微软可以利用室外空气来保持超级计算机正常运行并将热量排出建筑物。该公司在一份公开披露中表示,只有当温度超过29.3摄氏度(约85华氏度)时,它才会取水。

这仍然是大量的水,尤其是在夏天。据西得梅因水厂称,2022年7月,即OpenAI表示完成GPT-4训练的前一个月,微软向其爱荷华州数据中心集群注入了约1150万加仑的水。这约占该地区总用水量的6%,该地区还为该市居民提供饮用水。

西得梅因水厂的一份文件称,到2022年,该公司和市政府“只会考虑微软未来的数据中心项目”,前提是这些项目能够“展示和实施能够显着降低当前水平的峰值用水量的技术”保留住宅和其他商业需求的供水。

微软周四表示,它正在与自来水厂直接合作,以解决其反馈问题。水厂在一份书面声明中表示,该公司一直是一个良好的合作伙伴,并一直与当地官员合作,在满足需求的同时减少水足迹。


版权说明:本站所有作品图文均由用户自行上传分享,仅供网友学习交流。若您的权利被侵害,请联系我们


标签:

站长推荐
栏目推荐
阅读排行