推进底层技术创新,亚马逊云科技释放云计算原力

2023-01-23 0 787

信息技术控制技术革新从来都不是简单的非线性环环相扣,而是一个半主体参与、多要素交互的操作过程,其中,由控制技术不断进步和应用领域控制技术革新组成的“双链结构”,更是被看做是信息技术控制技术革新的核心理念推动力:控制技术不断进步为应用领域控制技术革新提供了基础支撑,而应用领域控制技术革新又如此一来推动了控制技术不断进步。

云排序的产业发展就轻松地演绎了“控制技术革新双链”理论。早期,人们希望通过云排序的普及化,让排序、储存等资源像水、电一样以供进料;但随著应用领域的深入,纯粹把排序、储存等资源“池化”已经越来越无法满足实际应用领域需求,于是,从晶片、协议等下层控制技术控制技术革新侧发力,就成了云排序产业产业发展的必然选择。

作为亚洲地区云排序的集大成者和先行者,Amazon云信息技术二十多年来已经面世了多种订制化的晶片设计,以帮助客户运行要求更高的工作阻抗,主要包括更慢的反应速度、更高的二级缓存、更慢的储存输入/输出(I/O)和更高的网络连接。

就在前不久的re:Invent2022亚洲地区大会上,Amazon云信息技术又面世了一系列下层控制技术更新,这里既主要包括第三代通用晶片、机器学习逻辑推理晶片、并行排序晶片等,还对核心理念的下层SRDFTP进行了控制技术革新,从而提高网络操控性,这些控制技术革新不仅再一次突破控制技术边界线,也进一步提高了云排序的操控性。

突破操控性无限大,从订制晶片开始

20世纪初,随着航海控制技术的产业发展,人类文明先后达到了许多地球上此前随处抵达的区域,北极点成为最后一片人类文明没有染指过的Satna。为此,三名博物学家理查德·安德森(Robert F. Scott)和罗拉格·罗斯海(Roald Amundsen)展开了一场危险的体育竞技:争当第一个抵达北极点的人。

1911年12月14日,罗斯海率先抵达北极点;33李珊珊的1912年1月17日,安德森也抵达了北极点。在此操作过程中,罗斯海随身携带了大量驯鹿,工作效率极高;而安德森随身携带的贝加尔湖黑豹则根本适应不了北极气候,而机械独木舟也难以组织工作,推进剂桶由于使用锡来冲压密闭,锡在和暖的相对湿度里变成了粉末,导致成桶的柴油全部色差。

推进底层技术创新,亚马逊云科技释放云计算原力

这是亚马逊云信息技术CEO Adam Selipsky在re:Invent2022亚洲地区大会的主题演讲中分享的一个故事,在Adam Selipsky看来,极端条件下看似很小的差异也会产生难以置信的影响,当面对极端环境时,“足够好”往往意味着还不够好。

云排序的应用领域也是如此,当越来越多的客户采用Amazon云信息技术的服务,云排序也逐渐逼近无限大。对此,Adam Selipsky表示:“多年前,我们就意识到要突破操控性无限大,必须一直向下推进到晶片,从那时起,订制晶片一直是我们的一大差异化因素。”

早在十几年前,Amazon云信息技术就开启了下层控制技术控制技术革新之路。尤其自2013年面世Amazon Nitro系统以来,Amazon云信息技术就已经开发了多个自研晶片,主要包括五代Nitro系统、致力于为各种组织工作阻抗提高操控性和优化成本的三代Graviton晶片、用于加速机器学习逻辑推理的两代Inferentia晶片,以及用于加速机器学习训练的Trainium芯片。

事实上,Amazon云信息技术选择订制晶片,也是大势所趋,毕竟众多云排序上的应用领域,对下层晶片的要求也不尽相同,纯粹凭借对现有晶片的整合、调试等,并不能使云服务的功能达到最佳。而Amazon云信息技术订制晶片的面世,一方面确保了晶片的快速迭代和交付,另一方面也进一步提高了云服务的操控性、工作效率和性价比。

顺势而为,订制晶片优势逐渐显现

在re:Invent2022亚洲地区大会上,Amazon云信息技术首席控制技术官Werner Vogels针对2023年给出了五大控制技术趋势预测,其中订制晶片赫然在列。在Werner Vogels看来,2023年,订制晶片的使用将迅速增加,控制技术革新步伐也将进一步加快;组织工作阻抗利用硬件优化将带来最大化操控性,同时降低能耗和成本。

推进底层技术创新,亚马逊云科技释放云计算原力

在这一趋势下,Amazon云信息技术也在加大对订制晶片的投入,从Graviton到Trainium、Inferentia再到Nitro,Amazon云信息技术每一代自研晶片都为客户的各种组织工作阻抗提供更高的性能、更优化的成本和更高的能效。这些订制晶片在给客户带来更加卓越的性价比的同时,也在驱动着Amazon云信息技术的持续控制技术革新。

如今,Amazon云信息技术更是全新面世了第三代通用晶片Gravition3E,机器学习逻辑推理晶片Inferentia2,以及第五代并行排序晶片Amazon Nitro5,并面世基于此三款复原研晶片的Amazon EC2最新实例。

推进底层技术创新,亚马逊云科技释放云计算原力

其中,Amazon Graviton3E晶片是Gravtion3晶片的定制产品,针对高操控性排序组织工作阻抗中常见的浮点和矢量运算进行了优化;采用了Graviton3E晶片的Hpc7g实例,与当前一代C6gn实例相比浮点操控性提高了2倍,与当前一代Hpc6a实例相比操控性提高了20%,让客户能够在多达数万个内核的高操控性排序集群中进行复杂的排序。

推进底层技术创新,亚马逊云科技释放云计算原力

采用最新机器学习加速逻辑推理晶片Inferentia2的Inf2实例,可以运行高达1750亿个参数的大型深度学习模型(如LLM、图像生成和自动语音检测),并在Amazon EC2上提供最低的单次逻辑推理成本;与当前一代Inf1实例相比可提供高达4倍的吞吐量,降低多达10倍的延迟。

推进底层技术创新,亚马逊云科技释放云计算原力

Amazon Nitro5与第四代相比,拥有2倍的晶体管数量,2倍的排序操控性,2倍的PCI-E带宽,同时内存访问速度提高50%;支持每秒增加60%的数据包,并减少30%的延迟,同时每瓦操控性提高40%。而采用Nitro5晶片的C7gn实例,与当前一代网络优化型实例相比,为每个CPU提供了多达2倍的网络连接,同时将每秒数据包转发操控性提高50%。

从全新发布的Gravition3E、Inferentia2和Nitro5可以看出,这些晶片一方面在本身的操控性上相比较上一代都有了大幅提高,另一方面也为Amazon EC2实例的高操控性排序、网络密集型组织工作阻抗和机器学习逻辑推理组织工作阻抗提供了更加强大的操控性支撑,从而可以满足更多客户的特定需求。

从晶片到协议,引领下层控制技术控制技术革新

协议对于排序机网络而言非常重要,可以说,没有协议就没有排序机网络。而在云服务中,传统FTP在使用操作过程中常常会出现网络堵塞、突发流量等问题;伴随著云排序应用领域的深入,要更好地解决这些问题,推动下层FTP的创新势在必行。

因此,Amazon云信息技术从晶片侧发力提高云服务操控性、工作效率等的同时,也在积极推动FTP的控制技术革新。在re:Invent2022亚洲地区大会上,Amazon云信息技术基于自身网络经验,对核心理念的下层SRDFTP进行了控制技术革新,极大改善高操控性排序常用的EFA网络接口操控性、Amazon EBS块储存网络操控性,以及ENA网络操控性。

推进底层技术创新,亚马逊云科技释放云计算原力

据了解,相比于传统的TCP单路径路由网络,SRD(Scalable Reliable Datagram,可扩展的可靠数据包)是Amazon云信息技术开发的一种FTP,专为Amazon云信息技术环境中实现一致且低延迟的网络而构建,具备多路径传输、微秒级重传和Nitro晶片提供专用资源三大优势,能够显著降低网络延迟,提高网络吞吐量。

比如,SRD协议能够显著提高Amazon云信息技术高操控性排序实例采用的EFA网络接口的操控性表现,SRD协议还能够有效改善Amazon EBS块储存操控性,可减少90%的尾部延迟,并能够将吞吐量提升4倍。

不仅如此,Amazon云信息技术还面世了高速虚拟网卡ENA Express。ENA Express以为Elastic Fabric Adapters提供支持的SRD协议为基础,将流量的P99延迟减少了50%,将P99.9延迟减少85%(与TCP相比),同时还将最大单流带宽从5Gbps到增加到了25Gbps,并让企业可以获得更多的每流带宽和更少的可变性。

从晶片到协议,Amazon云信息技术在下层控制技术上的持续控制技术革新,已经给云服务带来了操控性和工作效率等方面的巨大提高。首先,Amazon云信息技术通过下层控制技术的控制技术革新,进一步夯实了自身在云排序领域的先行者地位,并为云排序产业的控制技术革新产业发展探索出一条新的路径。

其次,Amazon云信息技术也通过此举,让客户能够享受到更具性价比的云服务。尤其在数字化转型逐渐进入“深水区”的今天,越来越多的企业开始拥抱云排序、拥抱云原生,而更高操控性、更具性价比的云服务,无疑让这些企业可以更加从容地在云上开展业务系统的控制技术革新,进一步加速自身的数字化转型进程。

相关文章

发表评论
暂无评论
官方客服团队

为您解决烦忧 - 24小时在线 专业服务