• 你的位置:喀什罢倬副航天信息有限公司 > 卡板 >

  • 先进封装之HBM本领【附股】
    发布日期:2024-07-16 16:03    点击次数:157

    先进封装之HBM本领【附股】

    AI办事器海潮席卷全球,带动AI加快芯片需求。DRAM要道性家具HBM异军突起,成为了半导体下行周期中逆势增长的表象线。业界以为,HBM是加快夙昔AI本领发展的要道科技之一。

    现代电子狡计机的性能推崇依赖于中央处理器(CPU)和动态立时存取存储器(DRAM)内存的协同配合,在冯·诺伊曼狡计机架构中,狡计处理单位证据指示从内存中读取数据,完成狡计处理后将数据存回内存。

    先进的DDR4内存主频为2666~3200MHz,带宽为6.4GB/s。在高性能狡计、数据中心、东说念主工智能(AI)欺诈中,顶级高算力芯片的数据蒙眬量峰值在数百TB/s级别,但主流DRAM内存或显存带宽一般为几GB/s到几十GB/s量级,与TB/s量级还有较大差距。

    DRAM内存带宽仍是成为了制约狡计机性能发展的进犯瓶颈,即所谓隔断性能进步的“内存墙”。

    针对内存高带宽、大容量、低功耗的需求,从2013年运行,国际电子元件工业斡旋会(JEDEC)先后制定了3代、多个系列版块的高带宽存储器(HBM、HBM2、HBM2E、HBM3)规范。

    HBM的3D堆叠结构

    HBM堆叠结构如图1所示,包含多层DRAM芯片和一层基本逻辑芯片。4层或8层以至更多层数的DRAM芯片以堆叠体式整合在沿途,不同DRAM芯片之间以及DRAM芯片与逻辑芯片之间用TSV和微凸块本领达成通说念陆续。每个HBMDRAM芯片可通过多达8条通说念与外部相连,每个通说念可单独探听1组DRAM阵列,通说念间访存相互沉寂。

    逻辑芯片可胁制DRAM芯片,并提供与胁制器芯片陆续的接口,主要包括测试逻辑模块和物理层(PHY)接口模块,其中PHY接口通过中间介质层与CPU/图形处理器(GPU)/片上系统(SoC)平直高速连通,平直存取(DA)端口提供HBM中多层DRAM芯片的测试通说念。

    中间介质层通过微凸块陆续到封装基板,从而造成2.5D的SiP系统。

    HBM的本领特质

    HBM堆栈莫得之外部互连线的阵势与信号处理器芯片陆续,而是通过中间介质层紧凑而快速地陆续,同期HBM里面的不同DRAM经受TSV达成信号纵向陆续,HBM具备的脾气实在与片内集成的RAM存储器雷同。

    HBM的高速、高带宽蓄意如图2所示,HBM2E和HBM3的单引脚最大输入/输出(I/O)速率诀别达到3.2Gbit/s和6.4Gbit/s,低于第五疆域形用双倍数据传输率存储器(GDDR5存储器,7.0Gbit/s)。

    但HBM的堆栈阵势不错通过更多的I/O数目提供远高于GDDR5存储器的总带宽,如HBM2(1024)带宽不错达到307GB/s,而GDDR5存储器(32)的带宽仅为28GB/s。

    由于经受了TSV和微凸块本领,DRAM裸片与处理器间达成了较短的信号传输旅途以及较低的单引脚I/O速率和I/O电压,使HBM具备更好的内存功耗能效脾气。HBM2与传统DDR存储器的单引脚I/O带宽功耗比对比如图3所示,

    以DDR3存储器归一化单引脚I/O带宽功耗比为基准,HBM2的I/O功耗比证据低于DDR3、DDR4和GDDR5存储器,联系于GDDR5存储器,HBM2的单引脚I/O带宽功耗比数值裁减42%。

    当今HBM主要用于数据中心、AI等高性能狡计机、AI狡计加快卡、高端专科显卡,不错显赫提高AI、机器学习运算的性能,如AMDInstinct、NVIDIAA100、华为Ascend910等AI检修加快器以及Xilinx的VirtexUltraScaleFPGA齐搭载了HBM芯片。

    夙昔,多样办事器、收集和其他欺诈神志也可能使用HBM芯片,撑抓HBM的SoC也将更多。

    海外HBM家具及本领发展

    2013年10月,JEDEC发布了第一个HBM规范JESD235。JESD235规范界说了具有1024bit接口和单引脚1Gbit/s数据速率的HBM1存储芯片,该芯片堆叠了2个或4个DRAM,HBM1堆叠DRAM架构如图4所示,在基本逻辑芯片上,每个DRAM芯片具有2个128bit通说念,共有8个阵列(B0~B7),最多撑抓8个128bit通说念(CH0~CH7),总带宽为128GB/s。

    每个通说念骨子上是具有2n(n代表总线位宽)预取架构的128bitDDR存储器接口,主要包括128bit数据、8bit行敕令地址和6bit列敕令地址、源同步时钟、校验、数据屏蔽等信号,还包括复位、IEEE1500测试端口和电源、地等环球信号。

    访存的读、写操作经由基本与DDR存储器芯片疏通。HBM1芯片具备半沉寂的行、列敕令接口,撑抓读、写敕令与其他敕令并行履行,加多了敕令接口带宽,提高了访存性能。

    2015年11月,HBM1规范更新为第二版———JESD235A。HBM的位宽仍是1024bit,撑抓的数据速率提高到单引脚2.0Gbit/s,总带宽进步到256GB/s,堆栈容量进步到8GB。

    HBM1主要增强的功能之一是伪通说念模式,该模式将通说念分为2个单独的子通说念,每个子通说念诀别具有64bitI/O,从而为每个存储器的读写探听提供128bit预取。伪通说念以疏通的时钟速率运行,它们分享行列敕令总线、时钟信号CK和时钟使能信号CKE。

    HBM1使用伪通说念模式,进一步优化通说念带宽性能,裁减延时,进步速率。其他校正包括用于通说念软硬树立的通说念再行映射模式、防过热保护等。

    2018年11月,JEDEC在JESD235A的基础上发布了JESD235B规范,即HBM2本领。HBM2充分融入了I/O高带宽存储本领、TSV工艺,撑抓最多12层的TSV堆叠,单片容量达到16Gbit,使用1024bit总线,分红8个相互沉寂的128bit通说念,单引脚数据速率进步到2.4Gbit/s,总带宽达到307GB/s。

    HBM2不错在全带宽下撑抓2层、4层、8层和12层的TSV堆栈,从而使系统在容量条目方面具有活泼性,堆栈容量为1GB和24GB。

    为合适12层大容量高密度封装,HBM2加多了新的封装选项,并更新多输入特征寄存器(MISR)的建树,测试部分和兼容性与HBM1保抓一致。

    联系于SKHynix主导研发的HBM1存储芯片,三星、镁光等公司也齐推出HBM2家具,且三星更为率先。

    2018年,三星文书量产第二代高带宽显存Aquabolt(HBM2),可提供每引脚2.4Gbit/s的数据传输速率,I/O电压为1.2V,8GBHBM2封装将提供307GB/s的数据带宽,数据传输速率是GDDR5存储器芯片(32GB/s数据带宽)的9.6倍,包含4个Aquabolt的显卡,传输性能可达到1.23TB/s。

    2020年1月,JEDEC更新发布HBM本领规范JESD235C,并于2021年2月更新为JESD235D,以撑抓加多的带宽和容量,即HBM2E。按照HBM2E本领表率,单片最大容量为16Gbit,撑抓2层、4层、8层和12层的TSV堆栈,无规范高度胁制,最大堆栈容量为24GB,撑抓IEEE1500测试,沉寂8通说念和16个伪通说念,单引脚的数据传输速率进步到3.2Gbit/s,匹配1024bit总线,单堆栈表面最大带宽为410GB/s。

    2019年,三星推出FlashboltHBM2E内存,堆叠8个16GbitDRAM芯片,使用TSV本领达成8芯片堆栈建树互连。每个Flashbolt封装齐具有1024bit总线,每个引脚的数据传输速率达到3.6Gbit/s,提供高达460GB/s的带宽。

    2022年1月,JEDEC发布了HBM3高带宽内存规范JESD238,即第四代HBM本领。HBM3在带宽、通说念、存储密度、可靠性、能效等层面进行了彭胀升级。

    在HBM2架构基础上,HBM3扩展到更高的带宽,将HBM2E的每引脚数据速率提高1倍,并界说了高达6.4Gbit/s的数据传输速率,止境于819GB/s;将沉寂通说念的数目从HBM2的8个加多到16个,每个通说念有2个伪通说念,HBM3实践上撑抓32个通说念;

    撑抓4层、8层和12层TSV堆栈,并为夙昔扩展至16层TSV堆栈作念好了准备,撑抓8~32Gbit的单层存储容量,堆栈容量为4~64GB。

    HBM3引入了片上纠错(ECC)本领,撑抓及时无理陈说,自在更高等平台的可靠性、可用性和可保重性(RAS)需求。I/O电压裁减至1.1V,能效进一步进步。

    在HBM3规范推出前,SKHynix推出了HBM3内存。SKHynix最新的HBM3芯片堆栈容量为24GB,最高带宽达到了819GB/s,比较HBM2E进步了78%。

    当今,HBM3内存提供16GB和24GB2种类型,诀别为8层和12层堆叠,每层容量为16Gbit。Rambus推出的HBM3内存单引脚的数据传输速率高达8.4Gbit/s,带宽冲突1TB。

    从2013年JEDEC发布第一代HBM本领规范JESD235到2022年发布第四代HBM本领规范JESD238,在不到10年的时代里,HBM本领发展阅历了4代,其性能对比如表1所示。

    好意思雪白现「HBMNext」内存将于2026年傍边出现,提供32Gb至64Gb之间的每堆东说念主皮客栈容量,以及每堆占2TB/s或更高的峰值带宽,较HBM3的每堆栈1.2TB/s显赫加多。

    国内HBM联系公司:

    通富微电:深度绑定AMD,拓展全球封测产业布局

    深度绑定AMD,AMD的2.5/3D封装亦然具有一定的市集份额,在HBM边界也在抓续研发,拓展全球封测产业布局,通富微电与寰宇率先芯片假想公司超威半导体AMD造成了“合股+协作”的强强斡旋模式,通过收购超威苏州、超威槟城,拓展公司全球产业布局。

    通富微电动作国内先进封装领航者,与AMD深度绑定,将在AI海潮中受益。

    香农芯创:公司动作SK海力士分销商之一具有HBM代理天禀

    香农芯创动作SK海力士的分销商之一,领有HBM存储家具的代理天禀。

    公司与海力士的协作使其大意构兵到最新的HBM本领,比如HBM3E,这类家具提供了越过1TB/s的数据带宽,关于需要极高带宽和低蔓延存储处理决议的市集来说极为要道。

    鉴于HBM本领在AI算力需求高的欺诈场景中的进犯作用,香农芯创有望通过其在HBM存储的代理业务,积极参与到AI存储处理决议的供应中,突出是在高性能狡计(HPC)、收集交换开采等边界。

    雅克科技:公司是SK海力士HBM先行者体材料的中枢供应商

    雅克科技是全球半导体先行者体材料的主要供应商之一,突出是在HBM存储芯片的坐褥中施展着要道作用。

    先行者体材料用于半导体薄膜千里积的CVD(化学气相千里积)和ALD(原子层千里积)工艺,是制造先进制程芯片不可或缺的材料,关于进步存储芯片性能至关进犯。

    公司是SK海力士HBM先行者体材料的中枢供应商,而SK海力士占据了全球HBM市集约50%的份额。

    跟着AI、数据中心和高性能狡计(HPC)对HBM存储需求的激增,公司动作要道材料供应商,其业务有望跟着HBM市集的高景气度而快速增长。

    风险教唆:本文仅为个东说念主条记,不可动作投资决策的依据,不组成任何提议,据此入市风险自担。

    沃泽周期

    几个一又友沿途分析科技与投资,周期与投资的心得

    236篇原创内容

    感德粉丝一齐撑抓随同!

    新兴行业4

    新兴行业 · 目次

    上一篇新的本领炒作办法!玻璃基板封装的底层逻辑!





Powered by 喀什罢倬副航天信息有限公司 @2013-2022 RSS地图 HTML地图

Copyright 站群系统 © 2013-2022 本站首页 版权所有