根据机构TrendForce集邦咨询研究报告，英伟达Hopper平台人工智能（AI）芯片H100于第一季度短缺情况逐渐缓解，新品H200第二季度逐渐放量。最新产品Blackwell系列B200等即将进入市场，预计第四季度开始放量。机构预计，英伟达AI芯片将带动CoWoS封装总产能大增，估计台积电2024年CoWoS产能增幅将达到150%，全球总体产能将在2025年后保持70%的年均增长率，其中英伟达需求占比近半。

根据供应链消息，今年英伟达AI芯片扔将以Hopper平台为主，Blackwell平台占整体高端GPU比例将低于10%。

机构表示，B100等芯片裸晶尺寸（die size）相比上一代H100翻倍，因此对CoWoS产能需求增加。HBM高带宽存储方面，随着英伟达GPU平台推进，H100主要搭载80GB容量HBM3，至2025年的B200将达搭载288GB的HBM3e，单颗搭载容量将近3～4倍增长。而据三大存储芯片原厂目前扩展规划，2025年HBM生产量预期也将翻倍。

TrendForce研究显示，全球头部云服务商（CSP）中，微软、Meta、AWS导入英伟达最新AI芯片较为积极，预计2025年GB200方案合计出货量有机会达30000台机柜。谷歌则有可能优先扩大自家TPU AI基础设施。

关于2024年全球AI服务器需求，自2024年上半年随GPU供货短缺获缓解后，今年来自服务器品牌商如戴尔、HPE（慧与）的需求占比将扩大至19%；其他包含各地区Tier-2数据中心如CoreWeave、特斯拉等，或各国家/地区超算中心项目等，合计需求占比将提高至31%，主要因为AI训练或应用过程中，可能涉及数据隐私安全等议题，预计未来此块市场也将扮演驱动AI服务器出货增长的关键。