智东西(公众号:zhidxcom)
作者 |  ZeR0
编辑 |  漠影

上周,全(quan)(quan)球最(zui)大云(yun)计算巨头(tou)亚(ya)马逊云(yun)科技自主研发的Graviton4处理(li)器全(quan)(quan)面上市,最(zui)初为全(quan)(quan)新实例Amazon EC2 R8g提供支持。

这件事还挺让人(ren)感慨,有种Arm服务器CPU千帆(fan)过尽、苦尽甘来的既视感。

服务器(qi)CPU领(ling)域曾经上演(yan)风水轮流(liu)转,早期由一(yi)众精简(jian)指令(ling)集前辈(bei)一(yi)统天(tian)下(xia),后来被复杂指令(ling)集架构x86逆袭蚕食。等精简(jian)指令(ling)集中的后辈(bei)Arm想闯数据中心赛道时(shi),x86早已全(quan)面霸(ba)场。

其实Arm早在2008年就(jiu)对这个新兴市场跃跃欲试(shi),结果一(yi)晃十年过去,几经(jing)试(shi)水,愣是(shi)没(mei)激起零星的水花(hua)。

第(di)一张(zhang)进入数(shu)据(ju)中心市场的门票,还是云计算产业老大哥亚马(ma)逊云科技送来的。

当时亚马(ma)逊云科(ke)技发了个“三(san)连击”:

1、2015年1月(yue),出(chu)其(qi)不(bu)意地收购以色列芯(xin)片设计企业(ye)Annapurna Labs,引起产业(ye)密切(qie)关(guan)注;

2、2017年,推出首款(kuan)自研网(wang)络芯(xin)片Amazon Nitro,把全(quan)球第一款(kuan)商用的DPU芯(xin)片送上历史舞台;

3、2018年,发布首款Amazon Graviton处理器,让Arm服务器CPU在数(shu)据(ju)中(zhong)心历(li)史中(zhong)有了清晰(xi)的坐标(biao)。

随后亚马(ma)逊云科(ke)技紧锣密鼓开展了教科(ke)书般的多线定制芯片攻关(guan),其他中美大(da)厂也相(xiang)继跟上自研处理器的风潮。漫长的服务器CPU拉锯战(zhan),终于从x86单方面碾压,变成Arm阵营声(sheng)势渐涨。

Graviton亦逐(zhu)渐坐稳全球最(zui)广(guang)泛使用(yong)的(de)Arm服务(wu)器CPU,亚马逊云科(ke)技(ji)更是(shi)被视(shi)作带领Arm生态在数据中心(xin)开疆辟土的(de)“全村的(de)希望”。伯恩斯坦去(qu)年的(de)一(yi)份报告(gao)显(xian)示,亚马逊云科(ke)技(ji)占据了(le)全球超过一(yi)半的(de)Arm服务(wu)器CPU市场(chang)。

▲亚马(ma)逊云科技(ji)五年发布五款Graviton处理器(qi)(图源:智东西(xi))

今天,大厂自研(yan)芯片屡见不鲜,但成功(gong)者寥(liao)寥(liao)可数。亚马逊云(yun)科技用(yong)五年写出(chu)的这(zhei)本自研(yan)服务器CPU参考教材,值得被反(fan)复咀(ju)嚼。

一、六年死磕CPU自研创新,给Arm服务器芯片开路

一代(dai)开山路(lu),二代(dai)奠(dian)江(jiang)湖。

这是亚马逊云(yun)科(ke)技自研(yan)服(fu)务器芯片发(fa)(fa)家(jia)的真(zhen)实写照:2018年(nian)(nian)11月发(fa)(fa)布(bu)的Graviton处理器,发(fa)(fa)出了云(yun)计算大厂自研(yan)CPU的第一声枪响;一年(nian)(nian)后(hou),继任者Graviton2出场(chang),标志着Arm服(fu)务器CPU正式进入(ru)数据中心(xin)市场(chang)竞争中,与x86掰手(shou)腕。

Graviton2集成了(le)(le)300亿(yi)颗晶体(ti)管,核心(xin)数量足足是上一代的(de)4倍(bei),并翻倍(bei)提(ti)升(sheng)了(le)(le)L1/L2缓存,总线带宽达到2TB/s,相比上一代实(shi)现了(le)(le)7倍(bei)的(de)性能提(ti)升(sheng)。与基于x86的(de)同类实(shi)例(li)相比,基于Graviton2的(de)实(shi)例(li)性能提(ti)高了(le)(le)40%,每(mei)个实(shi)例(li)成本降低(di)了(le)(le)20%。

在(zai)低(di)功耗(hao)上的出色表现,使亚马逊云科(ke)技大(da)举将通用工作负载(zai)转(zhuan)移(yi)到(dao)Graviton2上,以节省(sheng)电力和成本。此(ci)后,Graviton系(xi)列的采(cai)用率(lv)飙(biao)升,覆盖的工作负载(zai)从起初的Cache和Web扩(kuo)展到(dao)数(shu)据(ju)分析、机(ji)器学习、高性能计算等。

Graviton在市场的(de)初(chu)步告捷,堪称改变Arm命运的(de)节点。

这背后(hou),亚(ya)马逊(xun)云科技(ji)在底层创新上颇费心思:首(shou)次不(bu)再(zai)使(shi)用同步多线(xian)(xian)程技(ji)术(shu),而是实现物理(li)核(he)心单线(xian)(xian)程资源独享,让每个vCPU独占1个物理(li)核(he)心,使(shi)vCPU之(zhi)间更加隔离(li),不(bu)会(hui)因争抢资源而导致性(xing)能抖(dou)动。

从第(di)(di)一代到第(di)(di)二(er)代,Graviton通(tong)过(guo)增加核数(shu)取得了可观(guan)的(de)性能(neng)提升,但(dan)到第(di)(di)三(san)代,亚马逊云科技需要纳入更多(duo)的(de)设计创新。

增加核(he)数、提升(sheng)主频(pin),是提升(sheng)性能(neng)(neng)的两个常见(jian)手段。2021年发(fa)布的第(di)三代Graviton3没有采用这些思路,核(he)心数不变,主频(pin)仅(jin)略(lve)微提升(sheng)。因为提高(gao)频(pin)率对于大规模数据中心来说会比较冒险(xian),可能(neng)(neng)会带来大量(liang)的能(neng)(neng)耗,而且(qie)需要(yao)搭配升(sheng)级(ji)的电源及(ji)散热配置,最终(zhong)导致(zhi)客户的使用成本上升(sheng)。

Graviton3做了几项有别于前代的创新:

1、采用(yong)Chiplet设计,将7块硅die封装在一(yi)起;

2、采用(yong)指(zhi)令(ling)(ling)级(ji)并行(xing)方(fang)法,提高了(le)单个核心(xin)周期(qi)可执行(xing)的指(zhi)令(ling)(ling)数量,使核心(xin)能(neng)完成更多(duo)任务(wu);

3、针对内存带(dai)宽(kuan)和(he)延时敏感型工作负载,增加了40%的内存空间(jian),并采(cai)用(yong)DDR5将(jiang)内存通(tong)道(dao)带(dai)宽(kuan)提升50%。

结果,相比上一代(dai),Graviton3能(neng)将应用负(fu)载的性能(neng)无差别提(ti)升(sheng)25%,功耗相比x86实例(li)降低(di)多达(da)60%。通过内置机(ji)器学习硬(ying)件加速单元,这颗处(chu)理器还实现(xian)了(le)3倍的机(ji)器学习性能(neng)提(ti)升(sheng),并被AI研究人员和(he)企业(ye)用于云中的MLOps。

2022年推出(chu)的Graviton3E,专门针对浮点和向量指令运算(suan)进(jin)行了(le)优(you)化,向量计算(suan)性(xing)能(neng)达到(dao)Graviton3的2倍(bei),尤(you)其(qi)适(shi)用于人工智能(neng)/机器学习、高性(xing)能(neng)计算(suan)等应用场景。

最新一代Graviton4用(yong)上了(le)更好的(de)Neoverse-V2核(he)心(xin),并将(jiang)核(he)心(xin)数增加到96核(he),每个(ge)核(he)心(xin)的(de)L2缓存(cun)提(ti)(ti)升1倍(bei)至(zhi)2MB,内(nei)存(cun)带(dai)宽提(ti)(ti)升75%。

每一代Graviton都会较上一代有两位(wei)数的性(xing)能提(ti)升,并且(qie)单位(wei)算(suan)力功耗不(bu)断下(xia)降。而节(jie)能减(jian)排(pai)对于(yu)数据中心的可持续发展极其重要(yao),Twitter、Databricks、F1方程(cheng)式赛车、Snap等知(zhi)名云客户都使(shi)用了基(ji)于(yu)Graviton的服务,并对其降本增(zeng)效的优势赞(zan)誉有加。

据外(wai)媒报道(dao),到2022年年中(zhong),Graviton约(yue)占亚(ya)马(ma)逊云科技CPU实例的20%,其(qi)中(zhong)大(da)部分是Graviton2,亚(ya)马(ma)逊云科技新增(zeng)虚机实例中(zhong)约(yue)50%都是Graviton系列。

一些云客户公开背书称,他们(men)通过(guo)租用Graviton服务节(jie)省了10%~40%的(de)计算成本。

作(zuo)为Graviton早期用(yong)户的(de)大宇无限,用(yong)Graviton2将大数据(ju)作(zuo)业的(de)成本(ben)降(jiang)低了(le)20%;大量使用(yong)Graviton2实例(li)(li)的(de)涂鸦也升级到(dao)新一(yi)代(dai)实例(li)(li),将IoT平台加(jia)解密性(xing)能提(ti)高50%。

根据市场调研机构IDC的数(shu)据,2023年第一(yi)季度Arm服(fu)务器(qi)出货量市占率(lv)约为(wei)10%。此(ci)时Arm在服(fu)务器(qi)市场的生态问题已经初步得到解决。

截至目前,亚(ya)马逊(xun)云科(ke)技(ji)在(zai)全球六大洲33个地(di)区和100多个可(ke)用(yong)区累计(ji)部署了(le)超过200万张Graviton处理(li)器。这些处理(li)器驱动了(le)超过150种计(ji)算(suan)实例,被全球超过5万的企业和开发者所使用(yong)。

二、唯一实现大规模使用Arm架构的云大厂

在服务云客户的过程中(zhong),亚马逊云科技团队(dui)发现如果希望针对所有可能(neng)的工作(zuo)负载(zai)彻底变革计算的性价比,需(xu)要彻底重新思考实例,深(shen)入底层技术,包括(kuo)定制芯(xin)片。

为什么是基于Arm架(jia)构设(she)计芯(xin)片(pian)?

对(dui)于亚马(ma)逊(xun)云科技来说,这既是形势所(suo)迫,又是前瞻布局(ju)。

首(shou)先,Arm的许可证相对易得,而且设(she)计(ji)(ji)自(zi)由度(du)高,便于亚马逊云科(ke)技(ji)设(she)计(ji)(ji)出更符合云业务需求的处理器。

其次,省电长期(qi)是数据中(zhong)心的(de)老(lao)大难(nan)。考虑到规模效应,每个(ge)芯片节省的(de)几瓦特都很重要。而Arm已经(jing)被移动处(chu)理器(qi)市场检验(yan)过高(gao)能(neng)效、高(gao)算(suan)力密(mi)度、低成(cheng)本等(deng)优(you)势。

另外前文我们提(ti)(ti)到(dao)过,Graviton在提(ti)(ti)升(sheng)频率(lv)上很谨慎(shen),通过更高(gao)的指令级并行(xing)来补(bu)足性(xing)能,使其(qi)在性(xing)价比上更有竞争(zheng)力(li)。在高(gao)CPU利用(yong)率(lv)下,Graviton中每个(ge)vCPU独占(zhan)一个(ge)物理核心,不存(cun)在争(zheng)用(yong)问题,能保持(chi)依然快的速度,其(qi)价格优势则会变(bian)得明显。

据亚(ya)马逊(xun)云科技披露,相比采用Graviton3的第七(qi)代(dai)R7g实(shi)(shi)例,基于新一代(dai)Graviton4处理器的Amazon EC2 R8g实(shi)(shi)例性(xing)能提(ti)高了30%,实(shi)(shi)例大小更(geng)大,vCPU和(he)内存增加多出(chu)3倍,能为数(shu)据库、内存缓存和(he)实(shi)(shi)时大数(shu)据分析(xi)等内存密集型(xing)工作负载提(ti)供更(geng)好的性(xing)价比。

与R7g实例(li)相比(bi),R8g实例(li)可将Web应用程序(xu)最高提(ti)速(su)(su)(su)30%,数据库最高提(ti)速(su)(su)(su)40%、大(da)型Java应用程序(xu)最高提(ti)速(su)(su)(su)45%。

其性能和性价比优势已经得到一些实(shi)测验证(zheng)。

根据Phoronix发布(bu)的一些基准测(ce)试结果,在(zai)相(xiang)同(tong)vCPU数量时(shi),新Graviton4核心大致与(yu)英特尔Sapphire Rapids性能相(xiang)当,同(tong)时(shi)能媲美AMD第四代EPYC,在(zai)运行高性能计算、加(jia)密、代码编(bian)译、光线追踪、数据库、3D建(jian)模等(deng)工(gong)作负载(zai)时(shi),代际进步整(zheng)体非常出色。

▲经(jing)测试,基于Graviton4的(de)R8g实(shi)例(li)性价比超过基于英特尔至强、AMD EPYC的(de)亚马逊云科技云实(shi)例(li)(图(tu)源:Phoronix.com)

作(zuo)为R8g实例首发(fa)客户(hu)之一,Honeycomb分(fen)享称Graviton4的吞(tun)吐量改进非常明(ming)显,相比四年(nian)前刚开(kai)始使用Graviton,每vCPU吞(tun)吐量提高了一倍多。他们(men)准备在R8g实例系列正(zheng)式发(fa)布(bu)后立即(ji)把(ba)整个工作(zuo)负载迁移到Graviton4上(shang)。

爆款游(you)戏(xi)《堡垒之(zhi)夜》的(de)制作公司Epic Games评价说,基于最新(xin)Graviton4的(de)EC2 R8g实例是(shi)基于他们测试(shi)过的(de)最快的(de)EC2实例,在(zai)其“最具竞争力和对延迟敏的(de)工作负载(zai)中表现出色”,可以充(chong)分提高游(you)戏(xi)服(fu)务器(qi)的(de)性(xing)能(neng)。

对SAP HANA Cloud使用R8g实(shi)例的(de)初步测试结果显示,与(yu)基于Graviton3的(de)实(shi)例相比(bi),R8g实(shi)例的(de)分析性(xing)(xing)能(neng)可提升高达25%,事务性(xing)(xing)工作负载(zai)性(xing)(xing)能(neng)可提升高达40%。

▲R8g实例不同规格(ge)对比(bi)

迄今(jin)为止,只有亚马逊云(yun)科技真正实(shi)现了(le)大规模使用Arm架构。

为什么是亚(ya)马逊云科技?正如亚(ya)马逊云科技大中(zhong)(zhong)华区解决方案架构总经理代(dai)闻在今年(nian)中(zhong)(zhong)国(guo)峰会上(shang)所言:“只有在云计(ji)算的环境下,才有机会做(zuo)这样的从应用到CPU的全栈创新。”

自(zi)研芯片不(bu)是纸上创新,需要(yao)工程经验的积累,不(bu)仅要(yao)追求高(gao)性能,而(er)且要(yao)足够的稳定可靠和高(gao)度(du)安全。

用相同Arm微架构不代表就能做出一样性能的CPU,设计出芯片也不代表就能取得量产和商业上的成功。光是几百个CPU核心互连带来的线性度和通信延时问题,就能难倒不少芯片团队,更别提设计Arm服务器芯片还要突破生态难关。

亚马逊(xun)云科(ke)技(ji)的研发思(si)路是从对云客(ke)户工作负载(zai)的深刻(ke)理解(jie),逆(ni)向穿(chuan)透到芯片(pian)设(she)计。这种以(yi)客(ke)户为(wei)中心的方法能让亚马逊(xun)云科(ke)技(ji)短期(qi)内进行调整,以(yi)快速适应(ying)市场动态。

以Graviton4为例(li),亚(ya)马逊(xun)云科技首(shou)次面(mian)向实际(ji)应用设计(ji)CPU架(jia)构,该处理器的(de)设计(ji)工程中(zhong)从传(chuan)统(tong)的(de)MicroBenchmark基准测(ce)试评价(jia)体系转向以实际(ji)工作负(fu)载进(jin)行(xing)评价(jia)的(de)方法(fa)。比如,优化Cassandra数据库、Groovy应用、nginx服(fu)务器,所需(xu)要(yao)的(de)前端和后端CPU参数是不(bu)一样的(de)。

庞大的(de)客户规模(mo)为亚(ya)马逊(xun)云(yun)科技(ji)高筑壁(bi)垒。其遍布全球的(de)广泛数据(ju)中心集群,能(neng)承载Graviton系列处理(li)器(qi)的(de)落地。全球最大云(yun)计算业务所形成(cheng)的(de)规模(mo)效应,又(you)能(neng)为亚(ya)马逊(xun)云(yun)科技(ji)有效摊薄(bo)成(cheng)本。

持续创新的云(yun)(yun)服(fu)务,使(shi)(shi)亚马逊云(yun)(yun)科技(ji)能够了解到使(shi)(shi)用最(zui)多的应用及(ji)其资源消(xiao)耗(hao)模式,以此来挑选对(dui)用户来说收(shou)益最(zui)高的技(ji)术点,进(jin)(jin)行针(zhen)对(dui)性优化(hua),快速改进(jin)(jin)软件和硬件堆栈(zhan)甚至是CPU设(she)计,研发出相(xiang)匹配(pei)的vCPU和硬件核心。

同时(shi),亚马逊的(de)(de)各条(tiao)托管(guan)服(fu)务的(de)(de)产品线(xian)都使用(yong)统一的(de)(de)基(ji)础设施,因此Graviton创新可(ke)以及时(shi)应用(yong)到所有的(de)(de)托管(guan)服(fu)务里。用(yong)户通过(guo)更换计算选项,就能(neng)轻松享受到Graviton带来(lai)的(de)(de)性(xing)价比提升。

用户只需(xu)关心哪款实例更能满足(zu)需(xu)求,亚(ya)马逊云(yun)科(ke)技(ji)负责将软件的(de)迁(qian)移和学习成本打下来。通过(guo)将更多的(de)管理服务和Graviton做深(shen)度集成,从x86无缝迁(qian)移到Arm变得简(jian)单快(kuai)捷。

三、自研芯片如何影响云计算?

今天,自研芯片已经成科技(ji)大厂(chang)的(de)标准(zhun)动(dong)作,不管是(shi)降本(ben)增(zeng)效、构建竞争优势,还是(shi)提(ti)高可控(kong)性、降低(di)第(di)三方芯片企业依赖,都是(shi)容易说服下游(you)客户(hu)和投资者的(de)好(hao)故事。

但(dan)在九年前(qian),当亚(ya)马逊云科技率先踏出自研芯(xin)片之路时,这还是个(ge)超前(qian)的探(tan)索。

回(hui)溯云(yun)计算(suan)发(fa)展史,亚马(ma)逊(xun)云(yun)科(ke)技在2006年发(fa)布首(shou)款EC2(弹性云(yun)计算(suan))实例定(ding)义(yi)被(bei)视(shi)作一个历史时(shi)刻(ke)。随(sui)后越来(lai)越多(duo)的企业逐(zhu)渐接受(shou)云(yun)计算(suan)概念,并开始(shi)将自家应(ying)用迁移到云(yun)端。

现在亚马逊云科(ke)技(ji)可以在云上顺(shun)利运行几万个节点的(de)高性(xing)能计算集群(qun)来训(xun)练(lian)大模型(xing),能在云上处理高并发的(de)实时流媒体应用,这些在当时都是(shi)很(hen)难想象的(de)。要知道亚马逊云科(ke)技(ji)的(de)第一款EC2实例,主频只(zhi)有(you)1.7GHz,网络带宽250Mbps,内(nei)存不到2GB,磁盘是(shi)只(zhi)有(you)160GB的(de)机械盘。

在云计算业务(wu)刚起(qi)步的(de)(de)几年,亚马逊云科技(ji)要解决很多棘(ji)手问(wen)题,特别(bie)令团(tuan)队焦(jiao)虑的(de)(de)是(shi):如(ru)果使用定制版Xen作为虚(xu)拟(ni)化管理程序,无论如(ru)何耗费大量时间来优化代码,虚(xu)拟(ni)层始终会占用主机资源,并且x86 CPU并不(bu)擅长处理网络流(liu)量。

直到2013年(nian),一家(jia)以色列芯(xin)片企业Annapurna Labs走进亚马逊(xun)云(yun)科(ke)技(ji)的(de)视(shi)线。经过合作,亚马逊(xun)云(yun)科(ke)技(ji)首次将网络处(chu)理(li)写到硬(ying)件。惊(jing)喜的(de)落(luo)地表现,让亚马逊(xun)云(yun)科(ke)技(ji)盯上了(le)这家(jia)出(chu)色的(de)合作伙伴:2015年(nian)1月,亚马逊(xun)云(yun)科(ke)技(ji)宣布(bu)收(shou)购Annapurna Labs,自此踏上自研(yan)芯(xin)片的(de)旅(lv)程。

回过头来看,这绝对是亚马逊云科技历史上一笔精明的投资。

就在(zai)这(zhei)一交易的两年后,亚马(ma)逊云科技对外(wai)宣布(bu)Nitro虚拟化平(ping)台,将(jiang)(jiang)安全(quan)、管理、监控全(quan)部(bu)卸载到硬件上,将(jiang)(jiang)主机(ji)算力近乎100%地提供(gong)给客(ke)户。

从此,云计算走上了业务(wu)(wu)与基础设施完全物理隔离的(de)路子,底层的(de)虚拟化技(ji)术创新和上层的(de)服务(wu)(wu)器种类发展可以并行展开。

这催生了EC2实(shi)(shi)例(li)的关键拐点:从(cong)2006年(nian)到2017年(nian),亚马(ma)逊(xun)云科技用11年(nian)从(cong)1种EC2实(shi)(shi)例(li)做(zuo)到70种;而从(cong)2017年(nian)到2023年(nian),EC2实(shi)(shi)例(li)骤然爆发式增长,6年(nian)从(cong)70种发展到750种,能(neng)为各类负(fu)载提供(gong)合适的计算实(shi)(shi)例(li)。

站在(zai)Nitro成功的基石(shi)上,亚马逊云科技发(fa)(fa)展出(chu)网络芯(xin)片(pian)、服务器CPU、AI训练(lian)和(he)推理(li)(li)芯(xin)片(pian)三(san)条产品(pin)线:Nitro网络芯(xin)片(pian)已经发(fa)(fa)展到(dao)第五(wu)代,持续(xu)优化(hua)网络性能、存储性能和(he)安全(quan)加(jia)固;Graviton已经发(fa)(fa)布四代五(wu)款(kuan);AI推理(li)(li)芯(xin)片(pian)Inferentia和(he)AI训练(lian)芯(xin)片(pian)Trainium,通过提供更(geng)具性价比的推理(li)(li)和(he)训练(lian)实例,让用户有了GPU之外的AI加(jia)速选(xuan)择(ze)。

这使得亚马逊云科技能够保持内部全栈创新的(de)灵活(huo)性(xing):从(cong)定制的(de)板卡及(ji)服(fu)务器开始,到深入(ru)底(di)层(ceng)定制芯片(pian),再到横向扩展自(zi)研芯片(pian)版图,亚马逊云科技逐(zhu)渐(jian)将从(cong)芯片(pian)、硬件到软件整合协同(tong),在为业务带来更好(hao)成(cheng)(cheng)本效(xiao)益和可靠性(xing)的(de)同(tong)时,构成(cheng)(cheng)独属于自(zi)己的(de)核(he)心竞争(zheng)力。

自研芯片与亚马逊云科技(ji)自研的存储服务(wu)器(qi)和高(gao)速网(wang)络(luo)系统联动,使得更(geng)多芯片能够(gou)高(gao)效互连,从(cong)而(er)真正明显(xian)缩(suo)短计(ji)算的时间。站在这些创(chuang)新(xin)基础上,亚马逊云科技(ji)能够(gou)支持(chi)云计(ji)算中运行最具挑战性的任务(wu)之(zhi)一(yi)——人工智能与机器(qi)学习。

在近期(qi)举行的亚马(ma)逊(xun)云科技(ji)(ji)纽约(yue)峰会上,亚马(ma)逊(xun)云科技(ji)(ji)宣(xuan)布(bu)96%的AI/ML独(du)角兽已将其业务(wu)(wu)跑(pao)在亚马(ma)逊(xun)云科技(ji)(ji)上,2024福布(bu)斯AI 50榜单中90%的企业选用亚马(ma)逊(xun)云科技(ji)(ji)。从2023年至今,亚马(ma)逊(xun)云科技(ji)(ji)已经正(zheng)式(shi)(shi)发布(bu)了(le)326项生成(cheng)(cheng)式(shi)(shi)AI功能,同期(qi)机器学习(xi)和生成(cheng)(cheng)式(shi)(shi)AI服务(wu)(wu)的正(zheng)式(shi)(shi)可用数(shu)量超(chao)过了(le)其他供应(ying)商的两倍(bei)。

广泛(fan)的(de)(de)(de)用例(li)与深厚的(de)(de)(de)技术积累总是唇齿相依(yi)。这些数量惊(jing)人的(de)(de)(de)AI用例(li),使得(de)亚(ya)马逊有足够的(de)(de)(de)实践案(an)例(li)来为客(ke)户(hu)提供能(neng)取得(de)最(zui)佳收益(yi)的(de)(de)(de)选择,而(er)广泛(fan)的(de)(de)(de)客(ke)户(hu)反馈(kui)又能(neng)成(cheng)(cheng)为其芯片(pian)设(she)计最(zui)好(hao)的(de)(de)(de)动(dong)(dong)能(neng)。芯片(pian)技术的(de)(de)(de)持(chi)续迭代(dai),将托举(ju)起越(yue)来越(yue)高性价比的(de)(de)(de)云服务(wu),推动(dong)(dong)生成(cheng)(cheng)式AI普惠(hui)。

结语:没有哪款芯片,是云计算的唯一解

市场上有(you)大(da)量的(de)芯片选择,云(yun)基础设施提供商能(neng)在如何将所有(you)这些整合在一(yi)起方面(mian)发(fa)挥(hui)价(jia)值,从而更好实现从基础设施到云(yun)服务的(de)各种创新。

与独立芯(xin)片(pian)企业不(bu)(bu)同的(de)是,亚马逊云科(ke)技自研(yan)芯(xin)片(pian)的(de)目的(de)不(bu)(bu)在于参与市场竞争,而在于为其客(ke)户提供(gong)(gong)一个(ge)“万能商店”,既提供(gong)(gong)自研(yan)芯(xin)片(pian),又提供(gong)(gong)英(ying)特尔CPU、英(ying)伟达GPU等市面主流选(xuan)择,由(you)客(ke)户来根据这些芯(xin)片(pian)实例的(de)配置文件,自行选(xuan)择最能满足工(gong)作负载需求的(de)产品(pin)组合。

Graviton的六年(nian)演进(jin),走通了(le)Arm服务(wu)器(qi)CPU落地的故事(shi)。Arm为(wei)亚马(ma)逊(xun)云科技(ji)提(ti)供(gong)了(le)灵(ling)活定制CPU的基础(chu),亚马(ma)逊(xun)云科技(ji)则推动了(le)服务(wu)器(qi)芯片市场(chang)格(ge)局的变(bian)阵,成为(wei)Arm在(zai)数据中心市场(chang)展现成本和(he)性价比优势的最好代(dai)言。

只要(yao)Graviton还有降(jiang)本增(zeng)效(xiao)的(de)空间,亚马逊(xun)云科(ke)技就可以(yi)继续(xu)降(jiang)价让利(li),把规模(mo)与技术(shu)的(de)红(hong)利(li)回(hui)馈(kui)给云客户。