HBM 4，最新公布

台积电营运及先进封装技术暨服务副总经理何军表示，3DIC 是达成AI 芯片记忆体与逻辑芯片整合的重要方式。就目前采八个小芯片整合的2.5D CoWoS 先进封装来说，采A16 先进制程，加上12 个HBM4 高频宽记忆体，2027 年推出。

何军在Semicon Taiwan 2024「3D IC / CoWoS 驱动AI 芯片创新论坛」演讲，市场估全球半导体产业2030 年达兆美元，最重要驱动力就是HPC 与AI，占比达40%，领先手机30%、汽车15%、物联网与其他的15% 与5%。台积电3DIC 产能已爆发式成长满足客户需求。何军开玩笑说，简报不敢列出台积电CoWoS 成长数据，因一直被客户追着要产能。

为什么客户要选择小芯片（Chiplet）和3DIC 的方式来做AI 芯片，其原因就在于有较低的拥有成本与较少的设计转移负担。何军举例，如果设计是将原本的SoC+HBM 的设计架构、转换为小芯片与HBM 的架构下，因为除了新设计的逻辑芯片之外，其他的I/O、SoC 方面都可沿用旧制程的芯片，使得其量产成本将降低到76%。即便新架构的生产成本提高2%，但在这一来一往的情况下，达到提升22% 拥有成本的效果。

不过，3DIC 仍然有所挑战，其关键就在于如何提高产能方面。何军强调，要能使3DIC 能够提高产能，其关键就在整个芯片的大小与制程复杂度上。先就芯片大小来说，越大芯片就能够放下越多的小芯片在其中，达到越好的效能，但相对的制程技术就会越来越复杂，复杂度会达3 倍，还要面临芯片移位、断裂、撷取失败的风险挑战。

为了解决这样的风险挑战，何军指工具自动化与标准化、过程的控制与品质、加上3DFabric 制造平台的帮助是三大主要关键。其中、在工具自动化与标准化方面，台积电的工具供应商能力是差异化的关键。因此，在台积电64 家供应商加入的情况下，台积电开始有主导先进封装工具的能力。至于，过程的控制与品质就由高解析度的PnP 工具、加上AI 带动的品质管控，使台积电能有强大全面的品质管理。最后，透过3DFabric 制造平台来整合供应链1,500 种材料，达到优化效果。

何军最后表示，因为台湾有非常非常强大的供应链生态系，使得台积电在先进封装上的发展快速进步。以2015 年台积电建立一个封装厂到最后可以量产的时间约要5 年之久，到现在加上政府的大力支持，只需要不到两年的情况下就能完成，借以满足市场客户激增的需求。

SEMICON Taiwan 2024 将于9/4 盛大开展，其中异质整合国际高峰论坛已抢先开跑，这次论坛邀请到SK 海力士封装（PKG）研发副社长李康旭（Kangwook Lee）开讲，以「准备AI 时代的HBM和先进封装技术」为题，分享SK 海力士最新技术。

李康旭指出， HBM 是克服「记忆体墙」（Memory Walls）的最佳化解决方案，透过I/O 并行化能力，使HBM 成为Al 系统中用于训练和推断的最高规格DRAM。

根据应用产品（Application）不同，使用的HBM 数也不同。随着HBM 世代发展，在训练和推理AI 伺服器中搭载HBM 平均数量也会增加，如近期训练伺服器需要8 个HBM3E、推理需要4-5 个，长远估算可能分别要12 个和8 个HBM4 /HBM4E 记忆体。

李康旭表示，SK 海力士计划2025 年将推出12 层HBM4 产品，透过自家研发的封装技术，在HBM 产品的能效和散热性能具优秀产品竞争力。

有趣的是，SK 海力士到HBM3E 仍是DRAM 基础裸片（Base Die），采用2.5D 系统级封装，到HBM4 考虑将DRAM Base Die 改成Logic Base Die，使性能和能效获得提升。此外，到了HBM5 架构可能出现改变，SK 海力士目前正评估包括2.5D 和3D 系统级封装（SiP）在内的各种方案。

SK 海力士HBM 产品采用MR-MUF 封装技术，具有低压、低温键合和批量热处理的优势，在生产效率和可靠性优于TC-NCF 制程。此外，具有高热导特性的Gap-Fill 材料（填充空隙的材料）和高密度金属凸块（在垂直堆叠HBM DRAM时起连接电路作用的微小鼓包型材料）的形成，散热可比TC-NCF 制程有36% 性能优势。

由于堆叠将面临高度限制，目前SK 海力士不断找寻新方法，在有限高度下塞入更多堆叠层数。李康旭指出，公司8 层HBM3/HBM3E 使用MR-MUF技术；12层HBM3/HBM3E 采用Advanced MR-MUF技术；明年下半年准备出货的12 层HBM4 同样采Advanced MR-MUF 技术；至于16 层HBM4/ HBM4E 将同步采用Advanced MR-MUF 和混合键合（Hybrid Bonding）两种技术，未来堆叠20 层以上产品（如HBM5）则将转向Hybrid Bonding 前进。

李康旭指出，SK海力士正在研发16 层产品相关技术，最近确认对16 层产品可适用Advanced MR-MUF技术的可能性。此外，该公司也强调，从HBM4E 开始会更强调「客制化HBM」，以应对各种客户需求，如提升芯片效率。