来源：市场资讯
（来源：芯闻眼）
市场消息传出，为了解决「内存墙」问题，全球内存与封装产业正评估一种全新架构，即将 GPU 与 HBM 拆开、分别封装。
根据韩媒 zdnet 报导，这个核心概念是，将原本紧邻 GPU 配置的 HBM 拉开一定距离，再透过光学（Optics）互连技术桥接两者之间的数据传输，如此便可安装比现行架构多出数倍的 HBM 容量。
报导引述一位内存厂的研究人员表示，「目前我们在扩展 HBM 带宽与容量方面面临困难，因此正与客户讨论，透过光学互连突破 GPU shoreline（芯片边界）限制，以安装更多 HBM」。所谓的 shoreline，是指芯片周围可供配置 HBM 的边界长度。
报导指出，虽然 GPU 性能每一代都大幅提升，但内存储存与供应数据的速度却未能同步跟上，形成「内存墙」。虽然 HBM 具备更宽的数据信道，但业界认为其带宽与传输速度仍不足以应付 AI 运算需求的爆炸性成长。
过去业界主要透过持续增加 HBM 堆叠层数，在有限面积内提升容量与带宽，但随着堆叠层数从 12 层、16 层进一步朝 20 层以上发展，制程难度也呈指数级上升。目前在固定高度规范越来越难满足等物理限制，使垂直堆叠技术逐渐逼近极限，甚至连 JEDEC 也已放宽 HBM 高度规范。
报导指出，目前更大问题在于，如果无法再往上增加堆叠层数，另一种方法就是在 GPU 周围横向增加更多 HBM，但这同样面临限制。在目前 2.5D 封装架构中，GPU 与 HBM 被紧密安装于同一块基板上，而可放置的 HBM 数量，则完全受限于 GPU 芯片周围有限的 shoreline 长度。
即使市场希望搭载更多 HBM，实际上也没有足够空间可供安装，导致产业陷入结构性瓶颈。对此，半导体业界近期提出全新替代方案，也就是将 GPU 与 HBM 分离，分别封装。
报导指出，这种做法颠覆了过去「芯片之间必须靠近，才能降低数据传输延迟」的设计原则。新架构不再要求两者紧邻，而是透过超高速光学讯号连接，克服距离增加带来的问题。
在新的架构下，HBM 可能改为距离 GPU 数公分外环绕排列，或是在电路板中央另行建立独立的 HBM 区域。
全球 OSAT 厂高层表示，光学互连已是明确发展方向，问题只剩时间点。未来会先由机架对机架（rack-to-rack）、服务器对服务器（server-to-server）连接导入光学技术，之后再进一步扩展至单一板卡内部的 chip-to-chip 光互连。
该高层表示，大型系统会率先采用光学技术，但目前光学研究进展非常快，因此真正导入板内 chip-to-chip 光互连的时间点，可能不会太遥远。
从技术层面来看，GPU 与 HBM 间的光学互连，与数据中心内服务器彼此之间的光通讯原理相同，差别在于原用于大型设备间通讯的光学转换技术，如今必须缩小至单一电路板与芯片等级，因此技术难度大幅提高。
热门跟贴