AI 时代推动存储器的创新与发展

2019-07-24 17:06:14 来源:EEFOCUS
标签:

应用材料公司署名文章】

作者:应用材料公司 Mahendra Pakala

 

物联网、大数据和人工智能 (AI) 的推动下,从交通运输、医疗保健到零售和娱乐等众多行?#21040;?#36208;上转型之路,应用材料公司将其统称为 AI 计算时代。


在以前的计算时代中,大型机/小型机、PC/服务器和智能手机/平板电脑均受益于摩尔定律的进步,伴随着 2D 微缩,产品的性能、功耗和面积/成本(也称为“PPAC”)得以同步提升。


虽然 AI 时代的各类应用正在蓬勃发展,但摩尔定律却放缓了脚步;因此,行业需要在 2D 微缩以外取得突破,以全新方式推动 PPAC 的提升。具体而言,我们需要新的计算架构、新材料、新结构(特别是节省面积的 3D 结构),以及用于芯片堆叠和异构设计的高级封装。


AI 时代的架构变化正在对逻辑和存储器产生影响。机器学习的算法大量地使用通用逻辑中极为复杂的矩阵乘法运算,这推动了加速器及其存储器的转变。AI 计算包含两种明显不同的存储器任务:第一种是存储计算的中间结果;第二种是存储与训练模型相关的权重。


性能和功耗对于云计算和边缘计算都十分重要,而存储器方面的创新能够为此提供助力。一种使用现有存储器技术的方法是“近存储器”,其中大量工作存储器被压缩并放置在物理上与逻辑存储器紧密相邻的位置,通过高速接口连接。例如,3D 堆叠和硅通孔技术正愈发受?#20132;?#36814;。作为这些应用中的“工作存储器”,SRAM 和 DRAM 的一个主要缺点在于它们是?#36164;?#24615;存储器,需要?#20013;?#20379;电来保存数据(如权重)。


为了降低云和边缘的功?#27169;?#35774;计人员正在评估兼具高性能和非?#36164;?#24615;的新型存储器,因为它们只有在主动读写时才需要使用电?#30784;?#26377;三种方案引领着新型存储器, 它们分别是磁性RAM (MRAM)、相变式 RAM (PCRAM) 和电阻式 RAM (ReRAM) 。


不同于使用电荷,上述三款存储器利用新材料产生不同的电阻?#39318;?#24577; ,而高低电阻?#26469;?#34920;示 1 和 0。MRAM 利用磁场方向的变化来控制电阻?#30465;CRAM 利用了从非晶态到晶态的材料排列结构变化。ReRAM 在材料中创造了一条电流通路。PCRAM 和 ReRAM 均提供电阻率的中间阶段,这可在每个单元中存储多层的比特数据。


我们来了解一下 AI 时代的计算应用,了解它们如何在未来蓝图中推动创新。

 



图 1. AI 时代推动半导体创新的复兴之路

 

物联网边缘应用可?#25442;?#20998;为低性能/低功耗应用,以?#26696;?#24615;能/高功耗应用。


例如,采用 AI 算法的安全摄像头是一种低性能/低功耗应用,AI 算法非常适合面部和语音识别等应用。设计目标是尽可能多地处理边缘数据,并?#21307;?#23558;重要信息传输到云。由于采样频?#24335;系停?#22240;此性能要求也很低。功?#27169;?#21253;括待机功?#27169;?#33267;关重要,对于电池供电设备尤为如此。
目前,?#21040;?#22312;边缘设备中使用 SRAM 存储器。SRAM 并非理想选择,因为每个存储单元需要多达六个晶体管,而且源泄漏功率会很高。在存储权重方面,SRAM 的能效并不突出,特别是在?#25512;?#35774;计中使用时。作为替代方案,MRAM 可确保将晶体管密度提高数倍,从而实现更高的存储密?#28982;?#26356;小的芯片尺寸。MRAM 的另一个关键特性在于,这种产品经专门设计,可以安装到嵌入式片上系统产品 (SOC) 的后端互连层?#23567;RAM 可用于存储 SOC 的操作系统和应用程序,无需使用嵌入式闪存芯片便可实现这一目的,从而减少了系统芯片的总数和成本。


高性能“近边缘”应用,如缺陷检测和医学筛检,则需要更高的性能。MRAM 的一种变型称作自旋轨道转矩 MRAM (SOT-MRAM),经证实,这种产品在速度和功耗方面可能优于自旋转移力矩 MRAM (STT-MRAM)。


云计算需要尽可能高的计算性能,而训练时则需要将大量数据转?#39057;交?#22120;学习加速器附近,相应地,需要为机器学习加速器提供较大的片上 SRAM 缓存并辅以大?#25512;?#22806; DRAM 阵列——这就要求使用?#20013;?#30340;电?#30784;?#29992;电量对?#21697;?#21153;提供商非常重要,因为 AI 时代的数据会?#25163;?#25968;级增长,而电网功?#35270;?#38480;?#39029;?#26412;高昂。PCRAM 的功耗和成本比 DRAM 更低,而性能则比固态?#25165;?#21644;机械?#25165;?#26356;高,因此成为云计算架构的首选方案。


除了上述“二进制”的边缘应用、近边缘应用和云应用方面具备广阔前景外,在存储内计算的?#33455;?#20063;在?#25214;?#28145;入。可以想象,在存储器阵列中为机器学习执行频繁的矩阵乘法运算。设计人员正在探索伪交叉点架构,其中权重存储在各个存储器节点上。PCRAM、ReRAM 甚至铁电场效应晶体管 (FeFET) 都是优秀的备选方案,因为它们?#21152;?#27599;单元多层存储的潜力。目前而言,ReRAM 看起?#35789;?#26368;适合此类应用的存储器。可以利用欧姆定律和基尔霍夫定律在阵?#24515;?#23436;成矩阵乘法运算,而无需向芯片内移入和移出权重。多层单元架构能够实现全新级别的存储器密度,为设计和使用更大的模型提供支持。需要对新材料进行全面的开发和工程设计,才能将这些新的模拟存储器付诸现实,目前应用材料公司正在积极探索部分极具代表性的方案。


当摩尔定律的指数级发展速度逐渐减缓,AI 时代将迎来数据上的指数级增长。这种压力已经在推动着架构、材料、3D 结构以及用于芯片堆叠和异构集成的先进封装不断创新。存储器与 AI 计算引擎的关系越来越紧密,最终,存储器可能成为 AI 计算引擎本身。随着这些创新崭露?#26041;牽?#25105;们将见证性能、功耗和密度(面积/成本)的显著提升——随着新型存储器的逐步优化,边缘、近边缘和云应用的需求最终会得到满足。我们需要硬件上的全面复兴?#35789;?#25918; AI 时代的全部潜力。
 

 
关注与非网微信 ( ee-focus )
限量版产业观察、行业动态、技术大餐每日推荐
享受快时代的精品慢阅读
 

 

继续阅读
小米 9 与荣耀 V20 的对决之战

昨天我们发布了华为 nova5 Pro与小米9对比评测,今天再来看看小米9对峙荣耀V20的对决之?#20581;?

应用材料公司发布2019财年第三季度财务报告

2019年8月15日,加利福尼亚州圣克拉拉 — 应用材料公司(纳斯达克:AMAT)公布了其截止于2019年7月28日的第三季度财务报告。

汇纳科技半年报:净利增长 64.00%,基于海思 AI ?#22411;?#20914;击涨停?

与非网8月16日讯,汇纳科技8月15日晚间披露半年报,公司上半年实现营业收入1.09亿元,同比增长42.64%;净利润2325.78万元,同比增长64.00%。基本每股?#25214;?.23元。

努比亚Z20开卖,3499元起能买到这么多配置?
努比亚Z20开卖,3499元起能买到这么多配置?

8月8日,努比亚在?#26412;?#20030;行新品发布会,努比亚Z20正式?#26009;唷?#35813;机采用了双曲面柔性屏方案,这?#26725;?#27604;亚Z系列首款双屏手机。现在有最新消息,努比亚官方近?#25307;?#24067;,全新的努比亚Z20将于8月16?#25214;?#23601;是今天上午10点正式开卖,售价3499元起。

1999年,凯文.阿什顿提出“物联网?#22791;?#24565;,这个最初运用于物品信息共享等方面的新概念,在当时并未引起太多关注。20年过去,物联网早已超越概念的范畴,在AI、云计算等一系列新兴技术的加持下,催生出一个万物互联的社会,颠覆、重塑着已?#34892;?#19994;。

更多资讯
曾错过一?#20301;?#36935;的 AMD,这?#25991;?#20160;么来斗 Intel?

2003年,这家芯片制造商推出了“SledgeHammer”Opteron(皓龙),这是首款64位X86服务器处理器,与上一代32位处理器兼容,当时,规模更大的竞争对手英特尔仍在大力推广Itanium作为下一代架构,这?#24425;?#23427;唯一的64位选择。在短短三年左右的时间里,AMD占据了服务器芯片市场20%以上的份额,并成为英特尔的主要竞争对手。

净利暴跌 50%,英伟达发生了什么?

英伟达今?#23637;?#24067;了该公司的2020财年第二季度财报。报告显示,英伟达第二季度营收为25.79亿美元,与上年同期的31.23亿美元相比下降17%;净利润为5.52亿美元,与上年同期的11.01亿美元相比下降50%。

联发科5G芯片领跑,已通过5G独立组网连网通话测试

近日,联发科携手国际合作伙伴与核心网伙伴诺基亚、思科、基站供应商爱立信、国外运营商T-mobile?#26194;?#23436;成5G独立组网连网通话对接,此次共同合作测试,实现了全球第一个5G独立组网的通话连网,这将让5G商用部署具备更多弹性。

中国电科发布?#26114;?#38592;?#27604;现?#22788;理器,有何神奇之处?
中国电科发布?#26114;?#38592;?#27604;现?#22788;理器,有何神奇之处?

与非网8月16日讯,近一段时间中国芯硬来了一波小高?#20445;?#21508;?#26234;?#21170;的芯片产品纷纷?#26009;唷?#20170;天,聚光灯下的明星芯片又多了一?#20445;?#23427;就是?#26114;?#38592;?#27604;现?#22788;理器。

ARM内存边界对齐的结构体

默认情况下,在32位cpu里,gcc对于结构体的对齐方式?#21069;?#29031;四个字节来对齐的。看以下结构体

王牌战士什么时候开服
彩票开奖查询深圳风釆开奖结果 天津五星时时彩基本走势图 湖北十一选五开奖 25选七开奖结果查询 云南时时历史开奖记录查询表 有什么时时计划软件 江西体彩多乐彩十一选五走势图 享乐游棋牌攻略 贵州快三号码预测 极速时时是官方吗