随着人工智能与大数据技能的飞速发展,我们正步入一个以大模型为核心的新时期。然而在这一浪潮中,传统的冯·诺依曼架构却逐渐显露出其狭隘性。
该架构虽然奠定了当代打算机的根本,但在面对海量数据处理与大模型演习时,却受限于存储与打算分离的设计,导致数据搬运成为性能瓶颈,严重制约了打算效率的提升。
为了打破这一瓶颈,业界开始将目光聚焦于另一个打算架构——存算一体,这是一种将存储和打算功能领悟在同一个芯片上的技能架构。
事实上,存算一体的观点由来已久。早在1969年,斯坦福研究所的Kautz等人提出了存算一体打算机的观点。但受限于当时的芯片制造技能和算力需求的匮乏,那时存算一体仅仅勾留在理论研究阶段,并未得到实际运用。
而近年来,随着半导系统编制造技能打破,以及AI等算力密集运用处景的崛起,存算一体技能也得到迅猛发展。2017年,英伟达、微软、三星等提出存算一体原型,随后,海内也出身一批存算一体芯片企业,苹芯科技是个中之一。
8月8日,苹芯科技正式发布了两款新品,包括存算一体NPU“PIMCHIP-N300”和多模态智能感知芯片“PIMCHIP-S300”,后者采取的是28纳米制程工艺。
苹芯科技CEO杨越在接管21世纪经济宣布采访时指出,“存算一体便是要在成熟制程实现高等制程的打算能力,这让我们不用非去卷高等制程”。
冲破冯·诺依曼架构
在存算一体技能涌现之前,打算架构基本都是遵照冯·诺依曼架构,即存储与打算单元分离。
杨越向表示,在冯·诺依曼架构下,当打算发生时,数据须要在存储和打算单元直接传输。而在AI算力芯片中,超过90%的功耗都花费在传输上,以是原来的架构在打算效率上很难支撑AI的发展。
此前,提高打算效率的办法便是升级制程工艺,从最初的65纳米、40纳米已经变成7纳米、5纳米乃至3纳米。然后,这种方法后来也遭遇了瓶颈。
因此2020年前后,海内涌现一批公司,他们试图从其他维度去办理打算效率提升的问题。“比如存算一体公司、量子打算公司、光子芯片公司等,这些公司希望去改变芯片的架构来减少数据的搬移。而在不同的技能路径中,存算一体是落地性最强的一个赛道”。杨越说。
在存算一体赛道中,不同公司也存在差异,紧张是底层所采取的Memory(存储器)类型不同。有的是用flash做,有的是用静态随机存储器(SRAM)做,还有的是用新型存储器——忆阻器来做。
杨越见告,不同的Memory所具有的特性不同,有的密度高,有的耐久性更好。而苹芯科技选择SRAM,是由于它的产品化能力最强。
“在用户最关心的几个性能维度上,比如读写的延时、耐久性、Memory可擦写的次数、高等制程兼容性等,SRAM的表现都是最优的。其余,由于SRAM在打算机体系中已经存在几十年了,它的本钱、良率都很稳定。以是如果想要快速产品化,SRAM会是最优的办理方案”。杨越表示。
其余,即便是利用同一种Memory来做的企业,面向的场景也可能不同。有些公司选择了大算力场景,比如汽车、做事器,苹芯科技选择的则是小端侧场景,比如智能可穿着设备、聪慧家居等。
杨越称,选择小端侧场景,是由于算力整体并不是特殊大,但是对付功耗的哀求又比较敏感。“做出这一选择,我们是从电路、系统架构、运用、本钱等角度进行了综合考量,以为小端侧场景更适宜快速出产品”。
他举例说,“我们团队的背景之前都是做新型存储器的,但我们仍旧采取SRAM方案,核心缘故原由便是我们认为这个方案在2-3年内可以产品化,这是符合投资人商业逻辑的,也是符合家当商业逻辑的”。
大厂留下的机会
目前,包括英特尔、三星、IBM、AMD等在内的传统芯片厂商都在布局存算一体,苹芯科技等初创公司如何应对与巨子的竞争?
杨越表示,从行业角度,大家做的事情是趋同的,便是希望让数据的搬运彻底消逝。包括苹芯科技在内的一些初创公司,其上风在于选择了存内打算方案,这险些能将缩短数据间隔这件事做到极致化。但大厂们不太可能去这样做,由于他们要考虑通用性的问题,这实际上也为创业公司供应了机会。
据理解,存算一体技能可分为三类:近存打算(Processing Near Memory, PNM)、存内处理(Processing In Memory, PIM)和存内打算(Computing In Memory, CIM)。
个中,近存打算是利用前辈的封装技能,将打算芯片和存储器封装到一起,通过减少内存和处理单元之间的路径,提高传输效率;存内处理侧重于将打算过程尽可能地嵌入到存储器内部,减少处理器访问存储器的频率;存内打算则是将打算和存储完备领悟的技能,通过电路改造或集成额外的打算单元来实现。
由于存内打算对制程工艺哀求不高,以是这也是海内创业公司紧张选择的技能路径。华西证券在一份研报中指出,近存打算的代际设计本钱较低,适宜传统架构芯片转入,目前该技能已经十分成熟,被广泛运用于各种CPU和GPU上。而存内打算紧张用于算法固定的场景算法打算。
杨越指出,目前电子产品正朝着小型化、智能本地化的方向发展,这给存算一体创业公司带来了很大的市场机遇。
“小型化意味着电池不能做得太大,然后还要去很好地驱动AI打算,这在传统架构中很难实现。比如现在基于传统架构的一些智能设备,当它们打开AI功能时,非常随意马虎发热,缘故原由在于有大量的数据搬运,而存算一体可以将产品体验变得更好”。他说。
据杨越先容,苹芯科技的产品未来会有两个迭代方向,一是在功能上,要从现在的卷积神经网络(CNN)迭代到Transformer模型,二是在打算效率上,会把制程工艺从现在的28纳米,升级到22纳米、14纳米,终极定格在12纳米。
更多内容请下载21财经APP