钛媒体7月8日,在2021天下人工智能大会(WAIC 2021)期间,上海燧原科技推出第二代人工智能(AI)演习产品——“邃思2.0”芯片、基于邃思2.0的“云燧T20”演习加速卡和“云燧T21”演习OAM模组,全面升级的“驭算TopsRider”软件平台以及全新的“云燧集群”。

燧原科技成立于2018年3月,专注研发针对云端数据中央的深度学习高端芯片,定位于AI演习及推理解决方案,是海内第一家同时拥有高性能云端演习和云端推理产品的创业公司。
经由三年多的飞速发展,截止今年5月,燧原科技员工人数已超500人,个中90%为研发职员。

据先容,燧原科技发布的邃思2.0是迄今中国最大的AI打算芯片,尺寸为57.5毫米×57.5毫米(面积为3306mm2),达到了日月光2.5D封装的极限,与上代产品一样采取格罗方德12nm FinFET工艺,内部共整合9颗芯片,单精度FP32算力为40TFLOPS,单精度张量TF32算力为160TFLOPS,整数精度INT8算力为320TOPS。
比较之下,英伟达基于Ampere架构的A100 GPU的单精度浮点打算能力仅为19.5TFLOPS。

同时,邃思2.0也是首个支持最前辈内存HBM2E的产品。
云燧T20/T21则是基于邃思2.0而打造,估量“邃思2.0”将于今年底量产。

燧原科技宣告中国最大年夜的AI计算芯片加速推进三大年夜营业倾向落地  WAIC 2021

在新品发布会上,中国科学院院士陈国良致辞祝贺,称非常看好且充分理解燧原科技是一家致力做大芯片、拼硬科技为宗旨的公司。
当下因中美问题使得针对中国打算机工业的制裁相继而来,中国希望与天下一起发展,但发展也要“打铁自身硬”。
在这种背景下,发展自主可控的打算机工业系统是当务之急。
“这个过程中,中国未来须要燧原科技这样一群有培植性的公司,把自主可控这件事落到实处。

燧原科技CEO赵立东则表示,第二代AI演习产品的发布,是燧原科技开拓原始创新的算力产品和构建自主生态又一主要的里程碑。

详细而言,2019年底,燧原科技发布了从启动项目研发到发布用时仅18个月的云端演习芯片邃思1.0,基于邃思1.0的云燧T10加速卡单精度算力高达20TFLOPS,以及AI推理加速卡云燧i10和配套的“驭算”软件平台。

而在两年后的本日,燧原科技在第二代新品系列中进行了四大核心的全新升级迭代,其打算能力、存储和带宽、互联能力较第一代演习产品有巨大提升,对超大规模的模型支持能力得到显著增强:

1、架构升级实现算力飞跃。
邃思2.0进行了大规模的架构升级,新一代全自研的GCU-CARA全域打算架构,针对AI打算的特性进行深度优化,夯实了支持通用异构打算的根本;支持全面的打算精度,涵盖从FP32、TF32、FP16、BF16到INT8,并成为中国首款支持单精度张量TF32数据精度的AI芯片。

2、HBM2E存储带来海量吞吐。
邃思2.0的中央是主芯片,在边缘有4颗三星最前辈的存储芯片HBM2E,高配支持64GB内存,最大带宽达1.8TB/s。
据悉,这是中国第一个支持天下最前辈存储HBM2E和单芯片64GB内存的产品。

3、高速互联支撑算力扩展。
新的打算架构带来了全新GCU-LARE全域互联技能——这是燧原专为人工智能演习集群研发的互联技能,供应双向300 GB/s互联带宽,支持数千张云燧CloudBlazer加速卡互联,实现精良的线性加速比。

4、不止是芯片,燧原也进行了全新软件调配,推出燧原科技自主知识产权的打算及编程平台驭算TopsRider。
通过软硬件协同架构设计,充分发挥邃思2.0的性能;基于算子泛化技能及图优化策略,支持主流深度学习框架下的各种模型演习;利用Horovod分布式演习框架与GCU-LARE互联技能相互合营,为超大规模集群的高效运行供应办理方案。

其余,燧原科技推出与了互助伙伴(浪潮等)共同打造的全新产品品牌云燧智算集群CloudBlazer Matrix 2.0,凑集8192张云燧演习卡,可实现最高1.3E(130000T)的单精度智能算力集群。
据悉,E(Exascale)级打算便是百万兆级的打算,是目前环球顶尖超算系统新的追逐目标。

在发布会上,燧原科技COO张亚林展示了T20与友商(英伟达V100、A100)的Benchmark比拟跑分。

由图可见,云燧T20 TF32精度性能均匀2.5倍于友商次旗舰。
而在多类模型测试中,云燧T20与友商旗舰性能险些不分伯仲,即6种测试项目中有4个超越了友商旗舰的性能表现。

张亚林强调,邃思2.0大幅提升了算力指标,升级后的驭算软件平台更加便捷易用和客户友好,燧原科技也可针对客户的场景和业务模型供应软件定制化做事和优化,打造差异化办理方案;而基于云燧T20和T21演习产品、GCU-LARE互联技能和新一代驭算,燧原科技可以打造超大规模的集群产品CloudBlazer Matrix,可有效降落AI超算集群的整体繁芜度和本钱。

燧原科技CEO赵立东(左)与 燧原科技COO张亚林(右)共同发布“云燧T20”演习加速卡和“邃思2.0”芯片

据先容,燧原科技的产品重点落地在泛互联网、传统行业(金融、交通、电力、医疗、工业等)以及新基建三大业务方向。

在本次发布会上,赵立东宣告了燧原的异构打算生态——“燎原”操持,目标因此AI为出发点构建通用异构打算生态,构建标准化技能体系,共建完全生态做事数字中国。
其余,燧原通过与之江实验室、上海交通大学、西安交通大学等高校的互助,构建生态的同时培养人才。
当日,燧原科技还和上海银行、浪潮等生态互助伙伴进行了计策互助框架签约。

在融资方面,成立至今,燧原科技连续得到过5轮融资,累计融资额近32亿元公民币。
投资方包括腾讯、武岳峰成本、红点中国、真格基金、亦合伙本、中信家当基金、中金成本旗下基金、春华成本等明星基金公司。

2018年4月,燧原科技完成由真格基金、亦合伙本、达泰成本联合领投的种子轮;2018年7月,燧原科技完成3.4亿元公民币pre-A轮融资,领投方为腾讯;2019年5月,燧原科技完成3亿公民币A轮融资,领投方为红点创投中国;2020年5月,燧原科技完成7亿元公民币B轮融资,领投方为半导体家当基金武岳峰成本,老股东腾讯连续跟投;2021年1月,燧原科技完成的18亿公民币C轮融资,由中信家当基金、中金成本旗下基金、春华成本领投。

钛媒体理解到,燧原科技操持到2023年打造3款云端演习打算产品、3款云端推理打算产品,将性能功耗比提升至初代的14倍,并同步升级Matrix集群,有望全面“国产替代”美国半导体公司的干系AI芯片产品。

(本文首发钛媒体App,作者|林志佳)