当前,以ChatGPT为代表的AI模型席卷环球,不仅实现了AI技能质变性打破,还推动AI运用与家当领悟,加速AI落地千行百业。
在此背景下,遐想中国区根本举动步伐奇迹部架构师耿太平在会上,重点详细解读了遐想AI算力计策,以及详细落地实践。他表示:“在实际业务实践中,遐想AI导向的根本举动步伐聚焦大模型演习、训推一体、AI For Science和AI天生四大AI运用处景,供应软硬件整体方案来落地遐想AI算力计策。”
(遐想中国区根本举动步伐奇迹部架构师耿太平)
锚定AI算力,聚焦四大场景打造AI导向根本举动步伐
环球人工智能发展彭湃澎湃,算力规模不断攀升。截止2021年,中国的算力规模达到203EFLOPS,仅次于美国位居天下第二,年增长率为53%,高于环球均匀的增长率10个百分点。会上,耿太平表示,目前AI算力规模已经超过通用算力,未来估量到2026年,仅中国的AI算力规模就会达到1271.4 EFLOPS,年复合增长率达52.3%,AI算力成为算力发展的紧张方向。
面对日益增长的AI算力需求,遐想在今年8月,正式发布AI算力计策,全面打造以AI为导向的算力根本举动步伐。耿太平先容道,遐想AI算力计策具备AI赋智和绿色赋能两大特色。个中,AI赋智为,100%算力根本举动步伐产品支持AI,50% 根本举动步伐研发投入在AI领域,全面AI技能覆盖全域AI运用;绿色赋能是指,全面布局和引领液冷技能,打造液冷集群方案灯塔,以绿色算力根本举动步伐助推智算家当可持续发展。
(遐想全面打造AI导向的根本举动步伐)
AI算力计策勾引下,耿太平分享称,在实际的业务实践中,遐想推出了AI算力全栈全域框架,聚焦四大运用处景,供应软硬件的整体方案来推动AI计策不断落地。详细来看,遐想不仅供应丰富的AI算力所需的根本举动步伐,还通过整合不同算力需求的AI软件平台,高效覆盖大模型演习、训推一体、AI for Science和AI天生四大运用处景,从而更好地赋能AI行业生态。
耿太平进一步阐述道:“AI大模型演习做事器和AI训推一体做事器+Lenovo AI Master软件的方案,可以覆盖大模型演习和训推一体场景的运用;科学打算异构做事器+LiCO软件的组合,可以覆盖AI for Science场景的运用;AI天生做事器+NVIDIA OVE软件的组合,可以覆盖AI天生场景的运用。”
截至目前,遐想已成为环球第三大AI根本举动步伐和做事器供应商,全面覆盖云端、边缘算力场景,同时知足AI大模型和传统模型的演习、推理需求,并实现AI运用处景的深度覆盖,目前已实现聪慧制造、聪慧医疗、地质勘探等领域的运用。
澎湃算力,构筑坚实AI根本举动步伐底座
AI通用大模型以燎原之势席卷环球,带动算力需求和参数量呈指数级增长,构建知足其发展的AI算力最为紧迫。
第一大场景是AI大模型演习。会上,耿太平剖析称,Open AI最新GPT-4模型算力需求是GPT-3的59倍,模型参数量是GPT-3的10倍以上。为知足大规模数据演习需求,AI算力根本举动步伐需具备纵向高性能扩展和横向灵巧扩展能力。遐想在今年8月推出的遐想问天WA7780 G3 AI大模型演习做事器很好的知足了这一需求,具有澎湃性能巨幅提升、灵巧架构按需配比和扩展不同算力等特点。
(遐想问天 WA7780 G3 AI大模型演习做事器)
性能方面,该做事器可供应32PFLOPS的AI算力,支持高达400Gb/s的高性能网络,拥有高达640GB的HBM3高速显存。由于搭载的H800GPU相较上一代的GPU AI性能有高达3.44倍的提升,同时升级了第4代Tensor Core和 Transformer的引擎,使得大模型AI演习提升9倍,大模型AI推理性能提升30倍。灵巧架构方面,该做事器通过采取了GPU Direct Storage (GDS) 技能,让GPU与NVMe直接进行数据的通讯,同时实现GPU与NVMe 灵巧配比(1:1或2:1),大幅提高程序载入数据的速率,提升大模型演习的性能。
第二大场景是训推一体场景。为应对大模型推理和传统演习以及云游戏、仿照仿真等多元算力需求,遐想问天WA5480 G3 AI 训推一体做事器可支持业界主流的PCle规格的AI加速卡,可以按照场景哀求模块化配置GPU算力。该做事器还支持丰富生态,通过对系统拓扑和构造的兼容性设计以及软件的调优,可支持Intel、寒武纪、摩尔等多元AI芯片。此外,该做事器安全可靠,通过N+N冗余的电源设计和动态的软件监控,可确保无间断运行和稳定的性能。
可以看出,遐想问天WA7780 G3 AI大模型演习做事器和WA5480 G3 AI 训推一体做事器专为AI大模型而生,知足AI大模型所需的数据演习和推理需求。耿太平还表示,两款做事器在担保高性能的同时实现了低功耗运行。个中,遐想问天WA7780 G3 AI大模型演习做事器通过创新三层独立风道设计,根据不同的部件,散热特色进行优化,可以节省散热功耗1000瓦。
绿色算力,加速AI技能高效利用
除了AI大模型发达发展, AI技能与家当领悟带动AI运用不断落地掀发迹当智能化变革。遐想不仅聚焦通用人工智能领域,还看重AI与家当深度领悟,致力于为行业智能化变革打造算力“新基建”。
第三大场景是AI for Science,科学打算和AI在加速领悟。一方面AI算法科学运用实现了创新发展。如在气候领域,ForecastNet模型可将气候预测的速率提升4.5万倍。在生命科学领域,Alpha Fold2可以帮助科学家精准预测蛋白质的构造。另一方面,针对打算密集型运用,原来在CPU上的科学算法在不断向异构打算进行迁移,如材料科学领域的VASP和冷冻电镜RELION,因此当前科学打算算力根本举动步伐既须要知足传统的科学打算,又须要兼顾日益增长的AI需求。
基于此,遐想推出了科学异构打算做事器——遐想Think System SD650-I V3。这款做事器可实现异构多元,CPU和GPU的比例是1:2,可以进行最佳的异构打算。此外,GPU的双精度算力单节点额可达到210TFLOPS,GPU之间可通过XeLink进行高速互联。该做事器还具有极致高密和绿色节能的特点:42U整机柜可以支持多达144颗GPU,供应7.5PFLOPS的双精度算力; PUE小于1.1, 全水冷设计,零噪音,可支持余热回收。
(遐想Think System SD650-I V3)
末了一个是AI天生场景,即 AI天生技能与各行各业深度结合,在未来数字工厂、数字孪生地球、火势蔓延仿照、5G旗子暗记仿照等虚拟运用处景加速落地,不断刷新AI创新行业的想象力。而这些运用背后都须要强大的AI算力支持,逼真且低延迟的渲染能力、整合离散的设计工具和协同多人在线实时事情能力等。
遐想在这些领域进行了领先布局,推出了AI天生OVX根本举动步伐方案。该方案包含高速全闪存储(DSS-G)用于存放海量的数据、海内首款OVX3.0认证的AI天生做事器,OVX SR675 V3,搭载英伟达 Omniverse Enterprise软件一起来供应AI+渲染能力,同时可实现多种软件工具和多人多地的在线实时协作,还包含高速的交流机,为纵向和横向的扩展支配供应便利。
(遐想AI天生OVX根本举动步伐方案)
耿太平表示,在AI浪潮下,AI正加速与家当领悟推动智能生产力重塑家当。遐想将以AI赋智、绿色赋能全面打造AI导向算力根本举动步伐培植,为助力AI赋能行业供应源源不断的发展动能。