作为备受关注的中文演讲专场,本场会议约请到四位网络技能专家解读人工智能网络 - InfiniBand 网络和 Spectrum-X 网络的核心技能和主要浸染,磋商如何重构以数据中央为打算单元的全新 AI 打算平台。

会议直播期间,不雅观众积极参与提问互动,并得到线上主持人的专业解答。

错过了 3 月 19 日专场直播的不雅观众可以根据文末指引不雅观看会议回放!

演讲高朋及精彩话题回顾

GTC24  高机能 AI 收集专场回放不雅观看指南

大打算时期的网络

演讲高朋:

宋庆春 | NVIDIA 网络亚太区高等总监

话题亮点:

如今,以 AI 工厂和天生式 AI 云为代表的新型数据中央成为了算力的紧张来源,网络成为了决定数据中央性能的关键。
本次会议中,演讲高朋带大家一起磋商了如何在这个大打算的时期构建和验证高性能的算力中央。

NVIDIA 高效网络方案助力大模型运用

演讲高朋:

冯高锋 | NVIDIA 网络技能市场高等总监

话题亮点:

大模型演习依赖于大规模 GPU 集群的强大算力,而算力的增长与高速网络的 IO 能力息息相关。
NVIDIA 端到真个 InfiniBand 网络通过原生 RDMA 能力和强大的网络打算能力,大幅度加速 GPU 集群的 IO 能力,为大模型运用在万卡规模的超大规模集群上演习供应了强有力的性能保障。

Spectrum-X 构建以太网为底座拥有极致性能的 AI 集群

演讲高朋:

陈龙 | NVIDIA 网络市场开拓总监

话题亮点:

在 AI 时期背景下,传统以太网的弊端不能有效应对大规模性 AI 集群超高速互连的需求。
NVIDIA Spectrum-X 以全新的端到端办理方案,利用400Gbps 的 SuperNIC 和 NVIDIA Spectrum-4 51.2Tbps 以太网交流机,通过创新的动态路由技能和可编程拥塞掌握技能,打造高性能网络互连方案,比较传统以太网方案提升了 60% 的性能。

DPU 裸金属在大模型场景的运用

演讲高朋:

王晓慧 | UCloud 打算产品中央研发总监

话题亮点:

随着云打算和云做事在各行各业的广泛运用,企业都追求云规模效率以提升性能和可扩展性。
在此背景下,硬件加速器 DPU 应运而生。
DPU 具备强大的加速能力,实现软件定义的网络、存储和安全,不仅能知足最严格的性能哀求,还能应对最苛刻的事情负载。
UCloud 已有成功案例证明 DPU 在云主机和裸金属产品中的运用效果显著。
未来,DPU 将为云端 AI 大模型的运用供应有力支撑。

如何点播会议回放

第一步:

扫描二维码或点击“阅读原文”进入会议页面,点击右上角 “登录” 或“立即参加”。

初次注册 GTC 2024 请点击以下教程:

一图点亮 GTC 2024 线上大会之旅!

第二步:

成功登录后,跳转回会议页面即可自动回放。