韩国 Chosun Biz 报道称，除了大量预定台积电产能外，英伟达还斥巨资拿下了 HBM3 内存的供应合同。
消息人士称，该公司从美光和 SK 海力士那里预购了 700 亿至 1 万亿韩元（IT之家备注：当前约 3.84 亿至 54.9 亿元人民币）的 HBM3 内存。虽然没有关于这些款项具体用途的信息，但业界普遍认为其目的在于确保 2024 年 HBM 供应稳定，避免新一代 AI 和 HPC GPU 发布后因为这种事而掉链子。
此外，还有业内人士透露，三星电子、SK 海力士、美光三大存储公司明年的 HBM 产能已完全售罄。业界认为，由于 AI 行业半导体公司之间的激烈竞争，HBM 市场预计将在未来两年内实现快速增长。
根据现有爆料信息，英伟达正准备推出两款配备 HBM3E 内存的产品：配备 141GB HBM3E 的 H200 GPU 以及 GH200 超级芯片，因此英伟达需要大量 HBM 内存。
H200 是目前世界上最强的 AI 芯片，也是世界上首款采用 HBM3e 的 GPU，基于 NVIDIA Hopper 架构打造，与 H100 相互兼容，可提供 4.8 TB / s 速度。
在人工智能方面，英伟达表示，HGX H200 在 Llama 2（700 亿参数 LLM）上的推理速度比 H100 快了一倍。HGX H200 将以 4 路和 8 路的配置提供，与 H100 系统中的软件和硬件兼容。它将适用于每一种类型的数据中心（本地、云、混合云和边缘），并由 Amazon Web Services、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure 等部署，将于 2024 年第二季度推出。 
