GTC2021 GraceCPU暴露英伟达的野心?

来源 :微型计算机 | 被引量 : 0次 | 上传用户:liutaostdio
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
  GTC是英伟达一年一度的技术盛会。在今年4月13日的GTC上,英伟达CEO黄仁勋依旧在厨房、依旧穿着皮衣面向全球用户进行着网络直播。不过和2020年“端出来”一整盘A100相关GPU不同的是,今年的GTC2021,黄仁勋“端”出来的是ARM架构的CPU、数据加速DPU以及面向汽车驾驶的SoC等产品。尤其是CPU的发布,迎来业内一片讨论热潮。这一次英伟达打算做什么?ARM架构的CPU登场,意味着英伟达计划和英特尔正面厮杀了吗?
  英伟达一直是—锐意扩张的企业。从GPU起家,随后进入图形计算、视觉计算市场,在多年耕耘后,终于乘上了AI计算的东风。现在的英伟达已经发展成为一家以人工智能计算为主,控制了大部分视觉计算市场和资源,并逐渐进入服务器、HPC市场的超大规模企业。其股票也从早期的数美元,一路暴涨至近期的600美元左右,公司市值也已经逼近4000亿美元,远远超过市值2800亿美元,拥有全产业链、全系列制造技术的英特尔,风头无两。
  这些数据和成就的背后,英伟达锐意进取的态度和不断扩张的商业手段是关键。就在最近的2020年,英伟达宣布将收购ARM,希望借此进入移动GPU、移动CPU以及ARM相关处理器市场并掌控移动计算和其延伸产业的发展方向。虽然这顼收购目前被包括美国、英国企业在内的多家企业明确反对,却也没有影响到英伟达和ARM越来越深入的合作,并且合作的结果很快也显现出来。
  在笔者看来,在2021年的GTC大会上,英伟达的最大新闻并不是发布了DPU和全新面向汽车行业的SoC,而是带来了代号为“Grace”的CPU广品(后文间称GraceCPU)。这款产品将用在英伟达即将推出的数据中心产品中,并搭配英伟达下一代GPU产品,实现英伟达在数据中心、HPC以及计算设备上的CPU GPU“大一统”。
  GraceCPU的发布,在业界迅速掀起了巨大的波澜。英伟达的股价从发布会之前的550美元左右一举冲上了630美元。与此对应的是英特尔的股价大跌7%,AMD的股價也受到了影响。部分市场分析人士也认为英伟达的GraceCPU是对英特尔的正面冲击。那么,事实真的是如此吗?英特尔是否真的危险了呢?
  GraceCPU:从发布会说起
  要明确GraceCPU的影响,可以从现有的资料和情况进行分析。在GTC2021上,英伟达提到GraceCPU将用于“计算领域的细分市场”;GraceCPU采用的是“ArmNeoverse”内核,其CPU在SPECrate2017_int_base基准测试中的分数超过了300分;GraceCPU和GPU的连接部分则采用了第四代NVLink,CPU到GPU的带宽超过900GB/S;内存则采用的是LPDDR5。英伟达表示,GraceCPU将搭配英伟达的GPU,配合瑞士国家计算中心建造一个算力可达20Exaflops的超算。另外,美国洛斯阿拉莫斯国家实验室也在考虑使用GraceCPU和GPU搭建全新的超算系统。
  根据英伟达在本次大会后发布的白皮书,我们可以进一步分析:GraceCPU所使用的“ArmNeoverse”应该不是现在ARM发布的版本,而是采用下一代Armv9指令集的新Neoverse架构,这也和GraceCPU计划在2023年初上市在时间上相吻合。结合ARM在前段时间刚刚公布了全新的Armv9架构,可以确定GraceCPU肯定将引入Armv9指令集新加的大量功能。根据ARM官方内容,Armv9指令集主要是增强面向矢量、机器学习和数字信号处理器的相关内容,这和英伟达在GraceCPU上的诉求是高度相似的。
  另外,英伟达在随后的新闻稿中也提到,GraceCPU是高度专业化的、面向巨型人工智能和HPC的产品,可以训练拥有超过一万亿个参数的NLP模型。英伟达还提到“今天最大的人工智能模型包括数十亿个参数,并且每两个半月翻一番。训练它们需要一种新的CPU可以与GPU紧密结合,消除系统瓶颈”。
  俗话说,听话听音。虽然英伟达在发布会上并没有透露太多GraceCPU的信息,但是英伟达还是带来了很多关键点,比如GraceCPU面向的是一个比较窄且专业的领域、对带宽的需求是极其巨大,其本身性能表现比较2021年的产品还是可以的,已经逼近AMDEPYC7763这种当前x86架构下最强的CPU,但考虑其2023年才发布,这个诉求也并不夸张。显然,GraceCPU是用来帮助英伟达解决一个棘手问题的产物,解决这个问题可能并不会针对谁,但它带来的影响和余波却真的会影响到现在的行业格局。
  AI计算:核心的问题是带宽
  那么,英伟达需要解决的问题是什么?我们继续来看GTC2021上黄仁勋的演讲。在演讲中,黄仁勋特别提到,英伟达并不否认x86设备存在的意义,英伟达依旧认为x86设备拥有灵活的扩展性和对各类设备的支持,x86依然是目前HPC或者服务器应用场合的重点。不过问题来了,英伟达认为x86设备目前存在一些困难,其中比较典型的就是带宽不足。
  英伟达的例证显示,目前x86设备的核心是x86CPU,x86CPU通过内存控制器连接DDR4内存,最新的英特尔至强处理器可以实现8通道DDR4内存连接,其带宽大约为200GB/S,但是和GPU连接的带宽只能依靠PCIe4.0×16,带宽大约只有16GB/S(双向32GB/S),同时GPU本地内存(显存)的带宽在使用HBM2的情况下大约可以达到2000GB/S。在这种情况下,当一个巨大的AI计算模型被读入系统需要CPU交由GPU计算的时候,GPU将其从主内存拷贝至本地内存(显存)的带宽仅为64GB/S—英伟达在这里的计算还是比较宽泛的,因为英伟达考虑到了1个CPU连接了4个GPU。每个GPU都可以使用16GB/S的带宽从CPU主内存中读取数据,因此4个加起来的带宽就是16x4=64GB/s。
  这里的瓶颈显然就是CPU至IJGPU,如果说GPU本身的带宽是8车道高速公路的话,那么CPU本地带宽也许可以比作4车道的城市道路,而CPU到GPU的带宽只能看成一般的乡村道路了。从2000GB/S到200GB/S再至丨」16GB/S,这里的数据带宽跌落是以数量级的形式存在的,这显然不符合现代计算设备对数据带宽的强烈“渴求”。   为了解决这个问题,英伟达也想了很多办法,比如游说业内企业采用自家更高速的总线NVLink,不过到目前为止只有IBM的Power家族处理器给予了支持,其余的包括英特尔和AMD在内的企业都没有给予回应。考虑到Power处理器昂贵的价格以及其并不可能被英伟达完全掌控,因此英伟达开始慎重地考虑自己建立CPU平台。终于在购买了ARM授权并宣布收购ARM后,英伟达推出了GraceCPU,并希望借此来解决前述的带宽问题。
  根据英伟达的规划,GraceCPU和GPU的连接通道不再是传统的PCIe,而是改用了第四代NVLink,其可以提供高达500GB/S的数据带宽。GraceCPU的内存控制器改用LPDDR5X,英伟达没有公布其具体的位宽情况,但是给出了一个数据带宽为500GB/s。
  目前还不知道英伟达如何达到如此高的CPU带宽,因为这里存在一个很大的问题是LPDDR5X应该是32bit的颗粒,以现在LPDDR5最高6400MT/S的速率来计算的话,LPDDR5X速率可能最高在8000MT/S左右。这样一来,GraceCPU的内存位宽需要达到512bit才能实现大约500GB/S的带宽,也就是支持16个内存通道,这对一款CPU来说是非常不可思议的,并且GraceCPU还拥有第四代NVLink总线用于和GPU连接。这意味着CPU内部大量的面积和晶体管需要用于外部接口和高速总线。
  根据英伟达公布的GraceCPU搭配下一代HopperGPU的示意图来看,GraceCPU内部的CPU部分划分为4个区域,每个区域拥有24个核心,总计有96个核心,再加上周围大量的总线和相关接口,GraceCPU的面积应该不会太小,我猜测其尺寸应该和隔壁的HopperGPU相差不多。考虑到类似的NVIDIAA100GPU面积已经超过800mm2,因此GraceCPU在2022?2023年的3nm或者更先进的工艺加持下,其包含的晶体管面积应该非常大,而且成本不低。
  耗费了如此巨大的成本之后,英伟达获得了梦寐以求的针对AI计算以及气候、材料科学、高级天气计算等高带宽HPC解决方案。根据黄仁勋的介绍,除了HPC$h,面向行业用户的新产品,英伟达将集成8个GraceCPU,每个提供500GB/S的内存和500GB/S的NVLink带宽,8个GraceCPU搭配GPU后将使得内存到GPU的数据读取带宽提升至4000GB/S,这对大型或者超级大的AI计算模型来说是非常有利的,尤其是相比PCIe总线一即使是2023年PCIe5.0上线,读取带宽翻倍,届时8个PCIe5.0×16通道的带宽也应该只有大约256GB/S,即使到时候PCIe6.0都已经发布并在产品中部署(可能性不大),同等条件下其带宽也仅仅只有512GB/S,大约只有英伟达GraceCPU GPU方案的1/8。
  影响巨大:重新细分计算市场
  从上文的分析可以看出,英伟达推出GraceCPU和相关产品的目的是为了解决AI计算和类似超大规模计算中存在的带宽问题。毕竟在现有的x86架构下,带宽已经严重制约了这类计算的发展。因此从这一点来看,GraceCPU可能能够重塑现有AI计算的市场,从而更加巩固英伟达在AI计算市场中的地位。
  对英伟达来说,AI计算是其股价飙升的关键,并且英伟达现在已经是事实上成为AI行业的风向标。GraceCPU发布后,英伟达将在已经非常火爆的AI计算市场中再次细分出一个区域一也就是本文提到的,不依赖x86架构,以英伟达和ARM为主要计算架构供应者的全新AI计算生态圈。
  这个AI计算生态圈解决了之前AI计算对带宽的“渴求”,通过GraceCPU、英伟达的GPU、NVLink、LPDDR5X
  等为大规模数据、超大规模数据的AI计算需求提供了解决菌口。对于这类全新广品,再力口上附加的英伟达CUDA和相关AI的软件产业圈,应该很快就可以打开市场,为AI计算的发展带来全新的方向。
  其次,英伟达的GraceCPU并非针对英特尔和AMD的x86产品,它们在定位上的差距还是比较大的。正如前文所说,英伟达的GraceCPU在性能方面并不是重点,根据英伟达公布的数据,其整数算力目标是在SPECrate2017_int_base中提供300分以上的成绩,浮点算力目标值暂时未矢口。GraceCPU的重点依旧是解决CPU和GPU互联中的带宽问题,并且英伟达也提到并不排除x86计算市場,英伟达的目标是为所有计算市场都提供可匹配的广品。另外,目前x86市场已经形成了一个庞大且拥有长久历史积累的生态圈,任何企业面对这个庞然大物首先想到的应该是加入,而不是直接挑战。
  不仅如此,英伟达在CPU上的努力都会成为该公司在未来发展的助力。毕竟现在拥有一个完整、闭环的产业生态是所有企业发展的目的。英特尔在GPU上努力,AMD在软件和产业圈上努力,英伟达自然应该在CPU上努力。如果英伟达借助ARM的指令集和生态圈,在企业级、服务器以及HPC领域培育出属于自己的整个生态系统,那也是非常值得期待的。
  第三,英伟达目前也存在很多竞争对手,英伟达需要持续加强技术护城河。比如英特尔一直在持续加强CPU在AI方面的计算能力,推出了DLBoost、AVX-512等相关指令集,并且还通过自研GPU进入了并行计算市场。另外,目前全球市场也涌现出很多专注于AI计算的企业,一些巨头也开始布局AI计算,比如亚马逊、谷歌、百度、阿里巴巴等,都在不断地投产自己的AI计算芯片。在这种情况下,如何守住基本盘并开拓新市场就是英伟达需要考虑的内容。在ARM的加持下,英伟达在CPU端拥有了强力助力,加上自己在GPU端的先天优势就能够将自己的技术壁垒再次抬高,继续成为行业中不可替代的选择。
  GraceCPU暴露英伟达的野心?
  从上文的分析来看,英伟达针对GraceCPU的布局主要有以下意义。首先是重新细分计算市场增加利润增长点;其次则是有利于加强自己的技术壁垒,同时在CPU计算方面给出自己在未来成长的可能性;另外一点则是可以通过GraceCPU进一步加高自己的技术壁垒,抵抗竞争对手对市场的侵蚀。
  因此,在现在这个阶段,我认为英伟达在数据中心CPU上的所有操作都还是在为自己蓄力,并不是以正面抗衡英特尔和AMD以及整个x86产业生态圈的目的。如果说非要有一些想法的话,那也可能是英伟达在尝试另起炉灶,想要在x86的束缚下解脱出来,给自己的未来发展带来一个新的希望,这也算是其野心暴露的一种端倪吧!
其他文献
近段时间,游戏本持续霸占头条位置,其他主流机型被关注得越来越少。惠普在前段时间发布了Skylake平台的新Envy 13超轻薄本,其做工精致,轻薄程度甚至超过Macbook Air,让人眼前焕然一新。  惠普Envy系列素来钟爱简洁时尚的金属风格,Envy 13依1日延续了其最新的家族式外观设计,采用全铝合金一体化机身,强化铝材料的机身厚度达到0.8mm,拥有相当不错的抗压能力。相比上一代产品,新
极智网际飞梭定制版套装整体为黑色。键盘采用人体工学设计,并运用了粗纹理磨砂工艺,既具视觉冲击力,又起到了防滑吸汗的作用,内部的硅胶薄膜拥有较强的弹性,使得键帽回弹力适中,键帽的字符采用镭射印刷,更加耐磨。该键盘同时运用了4-Way X技术和Sensitive-Touch技术,让键帽受力更均匀,我们从键盘侧边击键,仍能获得稳定的手感,没有左右翘起的现象。空格键面积较宽,并运用Hype Durable
现在将主板、CPU捆绑在一起销售,性价比非常突出的板U套装已经成为DIY市场上的热门产品。原因非常简单,它的性价比很高,就拿锐龙5 3500X板U套装来说,处理器搭配华硕TUF B450M PLUS GAMING主板后的套装价格仅为1330元左右,除去处理器的价格,这款一线大厂的主板价格不到400元。但如果单独购买这款主板,其售价则在650元左右。不过虽然板U套装的性价比诱人,但面对众多的选择,要
前两期,我们一起回顾曾经让我们热血沸腾的经典游戏,现在该轮到具有最新技术代表的新游戏了按照惯例每年的重量级游戏都会在圣诞节前夕上市今年自然不会例外。近一段时间内,《孤岛危机》,《虚幻竞技场3》《使命召唤4:现代战争》和《战争机器》等多款年度大作已经陆续与大家见面一年一度的游戏玩家狂欢节如期而至。与前两年相比,2007年的3D图形技术经历了DirectX 9至0lrectX 10的重大变革,在微软和
从2013年开始,在消费笔记本电脑市场需求乏力的背景下,一个传统的小众市场开始爆发出巨大的活力,这就是游戏笔记本电脑市场。而在过去的一年里,无论是戴尔、联想,还是华硕、微星,都在游戏笔记本电脑市场拥有不错的表现。然而,在游戏笔记本电脑市场风云变幻的时候,曾经拥有Voodoo和黑幻的惠普,却没有足够积极进取的心态,似乎还在品味商用PC市场的收获以及PC市场整体不错的排名。不过,这次OMEN 15的推
近几年智能门锁的普及速度明顯加快了许多,从使用体验上来说,智能门锁确实比传统机械式门锁更方便,消费者的接受程度也更高。不过目前市面上的智能门锁产品参差不齐,价格差异大。大品牌智能门锁的价格普遍偏高,通常在1500元以上,虽然也有部分价格低廉的小众品牌,但门锁毕竟事关财产安全,过于低廉的价格总会有些让人担心产品质量安全。而小米旗下的米家品牌也推出了智能门锁,众筹期间999元的价格让人直呼“很香”。如
相信这个新弄假期对于很多朋友来说都非常波长,为为帮助大家打发无脚时间,本期MC评测室特意挑选了六种不同类型的游戏推荐给大家。它们主要是夫年和今年年初发布的-些游戏,在游戏圈内都受到了玩家们的追捧,同时这些游戏也都是MC的编辑们亲自试玩过的,因此在游戏质景上有所保证,希望大家能够喜欢。  《怪物猎人:世界冰原》  今年1月10日,众多PC玩家翘首以盼的《怪物猎人:世界冰原》终于登陆Steam平台,《
近日,华为对外表示,为了促进开放透明与5G技术应用、平衡创新保护与行业发展,华为将从2021年开始对5G专利收取使用费,并公布了华为对5G多模手机的收费标准。华为表示,将遵循5G标准的单台手机专利许可费上限为2.5美元,并提供适用于手机售价的合理百分比费率。  对于华为而言,其核心竞争力之一就是5G专利,根据国际知名专利数据公司IPLytics发布2020年5G专利报告显示,华为以3147件排名第
电影产业已进入4.0时代  电影行业就像游戏行业,它的产品拥有很多受众,但要做出好的产品也需要有高、精、尖的软硬件技术实力做支撑。影视工业网合伙人、创新业务总经理张艳阁先生在会上表示,从技术上来看,电影产业已经经历了从1.0 到4.0 的四个时代。从早期的黑白无声电影到彩色有声电影,从胶片到存储、保存更方便的数字电影,而当下电影产业的发展已进入4.0时代。在这个时代,电影行业的拍摄将普及LED 虚
为了给企业客户提供更灵活、更高效的智慧办公体验,近期华为正式推出了它的首款商用台式机:HUAWEI MateStation B515。可以看到,HUAWEI MateStation B515给人的第一印象就是小巧的体型、简约的外观,但又不失严肃、大气。其机箱正面采用了大量的格栅元素设计,充满了东方的秩序美学风格,非常符合其商务定位。那么在实际应用中,HUAWEI MateStation B515能