问:目前AI服务行业整体景气度如何?以及下游客户对于新架构服务器(如H200、B系列及GB200)的需求情况和偏好程度如何?
答:目前AI服务行业的整体需求量持续上升至第三季度,并且以四大云厂商为代表的客户需求主要集中在传统数据中心服务器。随着数学模型训练进入尾声,预计在第三季度末之前,尤其是用于生成式训练的AI服务器将继续保持增长态势。但从第四季度开始,随着训练服务器转向推理服务器,整体增速会放缓但不会停止增长。

问:GB200服务器在市场的接受度如何?未来一年的市场需求预估是多少?
答:自今年四月份发布以来,GB200凭借其强大的整合能力和高性能表现获得了广泛的关注与好评,尤其受到云厂商及企业客户的青睐。预计明年全球将采购约4万台GB200,其中包括英伟达自产4万台和四大云厂商定制化研发的近1万台。总的出货量预计将超过5万台,其中NVIDIA-L36型号将占据约3万台,NVIDIA-L72型号则大约为2万台。

问:对于中小企业和企业客户而言,为何更倾向于选择NVIDIA-L36而非其他型号?
答:中小型企业及企业客户选择NVIDIA-L36的主要原因在于它整合了性能强大的B200训练卡,并且整体价格相对较低,符合大部分企业的经济承受范围。同时,由于B200既可用于训练服务器也可用于推理服务器,降低了企业的投资成本并提供了灵活的应用选择。

问:尽管B200在技术参数上并未显著提升训练性能,但为什么仍备受追捧?
答:尽管在训练方面的提升有限,但B200在HBM内存容量、网络带宽以及更重要的推理性能上有巨大优势,提升了整机的综合性能。此外,B200卡支持作为训练服务器和推理服务器双重使用,因此深受客户喜爱。

问:下半年主要增加的两类卡片是什么?H200卡的销售情况如何?
答:下半年主要增加了两种类型的卡片,分别是A200和B200。下半年H200卡片销量增长迅速,达到了近150万张,相比上半年有了显著提升,并且大量取代了H100的订单,使得总销量接近330万张,比年初增长了约20万张。

问:B200卡片的销售状况如何?
答:下半年预计将售出大约50万张B200卡片,其中一部分来源于原本计划生产B100卡片的产能转移,最终全年B200加B100总计将达到约80万张,总体较去年有所增加。

问:H20在国内市场的销售情况如何?
答:尽管英伟达在国内AI服务器和AI卡领域的市场份额已不如以往,但H20在国内市场上仍然有一定的吸引力,尤其是在互联网公司等特定客户群体中。截至当前,年内已有40万张H20在国内下达订单,其中大部分来自云厂商。

问:明年GPU卡市场的预期销售规模是多少?
答:根据初步指引,明年预计GPU卡总销量将达到600万张,其中B卡将占据主导地位,达到约400万张,其中以新款B200为主,此外还将有约200万张H卡出售,其中H200占据100万张左右,H100则减少至30万张。

问:B100、B200和GB200的预计报价是多少?
答:B100的价格预期在36,000到38,000美元一张,而B200的预计报价在42,000到44,000美元一张。GB200有两个型号,NL36预计售价约为200万美元,而NL72的售价范围在360万到380万美元之间。

问:英伟达自行设计的rack架构和授权给云厂商使用的区别是什么?
答:这两种架构的基本结构相同,主要区别在于芯片数量和供应商选择。

问:英伟达当前主要供应商在哪些方面提供服务?
答:目前,英伟达的主要供应商集中在三个方面:连接器和铜缆,散热模组,以及电源模块。连接器供应商以安费诺为主,同时还有泰科和莫仕参与安卓授权代工;散热模组的价格大约为120美元/个;电源部分则主要由全球第一大电源服务器供应商——台湾台达研发,另外还有全球第二大供应商光宝进行授权代工。问:GB200的整体电源供应形式及成本如何?
答:在GB200中,整体电源供应形式以整机柜电源供应为主,每个Power shelf功率为5500瓦。一套包含十个Power shelf的GB200系统的市场价格约为3万美元。随着云厂商对设备定制化的增加,预计未来会出现一些新的供应商进入市场,特别是在散热模组和连接器方面。

问:对于未来的供应商构成变化有哪些预测?
答:未来,云厂商在进行二次研究之后,预计会将工业富联引入到散热模组供应商中,原因在于他们在该领域拥有丰富经验和相对较低的成本。此外,考虑到成本因素,立讯精密也可能被纳入连接器和线缆的供应商列表。然而,在电源领域,由于云厂商以往主要使用光芒和台达的产品,因此在这方面的供应链不太可能出现新供应商的加入。

问:对于定制化服务器市场,哪些云厂商主要依赖广达和工业富联作为供应商,并且分别占据多大的市场份额?
答:四大云厂商中,亚马逊、微软、Google和Meta主要依赖广达供应将近30%份额的定制化GB200机型,工业富联则占据将近40%份额。

问:英伟达的标准GB200供应途径有哪些,并预测明年主流的供应方式是什么?
答:英伟达会直接少量供应给自家cloud模式,以及授权像戴尔、惠普、Silver Michael等OEM厂商进行代工生产和转售。其中,戴尔、惠普主要通过工业富联获取原料,并以转售为主。而对于像超微这样的厂商,虽然有自己的代工厂商,但仍更倾向于采用转售的方式。英伟达会将GB200系列芯片以优惠价格销售给这些厂商,以保留一定的利润空间。

问:关于未来一年内互联网自研芯片的发展情况及其对服务器市场格局的影响如何判断?
答:尽管亚马逊和Google正在快速推进自研芯片,但从当前实际情况来看,谷歌可能在减少自研芯片投资并加大对英伟达芯片的投入。虽然自研芯片增长迅速,但在短期内不太可能完全取代英伟达架构。尤其是对于像亚马逊和Google这样的企业,它们更多地将自研芯片用于内部消耗而非直接供给第三方客户。

问:对于不同类型的服务器(定制化与标准化),它们对代工厂商的盈利能力有何显著差异?

答:尽管定制化服务器的营收明显高于标准化服务器,但两者在盈利方面的差异并不太大。定制化服务器由于需提供整机和零配件的整合代工服务,加上供应商提供的部分材料(如GPU板卡)由云厂商负责采购,导致毛利率降低至6%至8%,整体售价大约在18万美元左右。不过,无论营收规模大小,两者的利润总额相当。

问:云厂商为何选择自行定制服务器?尤其在液冷和铜缆方面,是否会引入其他供应商以降低成本?
答:云厂商定制服务器的主要原因是出于业务特点和成本优化的需求。通过定制服务器,他们能够针对自身业务特性开发特定的数据架构,并减少不必要的零部件以实现成本节约。同时,在GB200架构中,虽然变动空间有限,但对于一些标准化组件如散热模组、铜缆等,云厂商可以选择适合自己需求的产品进行替换或增减配置。

问:英伟达在液冷领域是否坚持独家合作,以及其他供应商的选择策略是怎样的?
答:在液冷领域,英伟达通常会选择与其合作多年的默契合作伙伴进行紧密合作,除非出现重大问题才会考虑引入新的供应商。而对于像美超微这样的公司及四大云厂商,它们会在散热模组供应商方面有更多的选择权,往往会根据自身的定制化需求更换或调整供应商,确保能够生产出与众不同的服务器机型。

问:HGXGB200机柜中使用的电源是哪个品牌?NVL72机柜中包含了多少个Power shelf电源?

答:是使用台达生产的电源。NVL72机柜中包含了20个Power shelf电源。

问:目前谁负责NVL系列机柜的供应链管理?
答:该系列机柜由中国台湾的光宝科技作为二供,并且是经由台达授权进行生产和销售。

问:NL72机柜相比NL36机柜有何不同?
答:NL72与NL36的主要区别在于数量上有所变化,但两者在功耗和电源配置上基本一致,例如NL72中有20个Power shelf电源,而NVL36则只有一个电源。

问:NVL72机柜的价格如何变化?
答:虽然NVL72机柜中的单个组件价格保持不变,但由于需要翻倍的电源配置,导致整机柜的价格也会翻倍。

问:NVL36定制化和非定制化服务器的价格分别是多少?
答:非定制化的NVL36售价约为200万美金,而定制化的NVL36售价预计在160到180万美金之间。

问:美超微在GPU市场的出货量及占比情况如何?
答:美超微在GPU市场的出货量接近40万台,约占整个GPU市场出货量的25%左右,位居第一。

2024-07-10 09:10:14 作者更新了以下内容

- Nvidia和Broadcom都认为AI领域的投资是长期需求,而非短期机会主义行为。超大规模公司(hyperscalers)如Google和Microsoft正在积极确保所需资源,为未来50年的基础设施建设做出重大赌注,以提升模型能力并确定其应用的垂直领域。

- Nvidia的供应链自今年5月中旬以来出现上升趋势,新一代Blackwell芯片的产量比之前计划高出40%。Blackwell芯片的月产量从不到200,000增加到250,000-270,000之间,新平台将在第三季度开始发货,包括B100和B200芯片,而GB200将在第四季度发货。

- Nvidia预计明年将生产60,000台MVL系统,其中包括50,000台MVL36系统和10,000台MVL72系统。MVL36可能会在今年底出货,而MVL72则可能要等到明年第一或第二季度。

- Nvidia的ASP从Hopper时代的20,000美元跃升至Blackwell时代的45,000美元,预计今年单位增长超过100%,明年约为25%。尽管中国市场上的H20芯片ASP只有H100的一半,但并未对整体业务产生重大负面影响,Nvidia仍保持中期70%的毛利率目标。

- NVIDIA的市场表现依然强劲,尽管买方已经将明年的预期利润压缩至每股5美元。投资者在考虑是否需要压缩其市盈率倍数,因为今年可能是一个高峰年。然而,如果认为这是一个3到5年的人工智能周期,目前仍处于早期阶段,即使一年后增长曲线有所平缓,需求依然强劲。

1、从HGX到DGX到GB200,不断宣誓AI主权的英伟达:HGX服务器出货以ODM为主,服务器厂商自主售卖,DGX和GB200服务器以OEM为主,英伟达自行搭配销售渠道体系进行售卖,两者的差异点在于英伟达确认后者收入。

2、不断上调的GB200预期:我们认为无论是北美四云厂商Capex预期的指引,台积电Cowos和HBM的供应全部非常乐观,因此根据我们的侧算,GB200出货量上依旧有很大预期差。

3、抓住核心供应链变化,把握弹性:1)供应链份额的变动,例如OEM份额的提升;2)新进入供应链体系厂商,例如铜链接、液冷、电源等。

铜缆新分支小作文:

英伟达铜缆高速 增加 钌,这是业界首次在量产中使用钌,使铜芯片布线能够扩展到 2nm 节点及以下。这个新型增强型低 k 介电材料也可降低芯片电容并增强逻辑和 DRAM 芯片的 3D 堆叠能力。

相关标的:浩通科技、南矿集团、有研新材、贵研铂业、浙富控股、兴业银锡

胜宏科技】卖方跟踪:

公司B100产品本月开始交货,GB200 compute tray HDI和switch tray HDI 最快有望本月底开始交货。目前,已有料号实现千万级别,预计9月开始4种AI核心料号单月收入超1亿元,并逐月环比向上,25Q1单季度4种AI核心料号收入有望做到6亿元。此外,公司已开始打样英伟达下一代产品,往更高阶HDI升级。

我们持续推荐GB200核心标的胜宏科技,欢迎各位领导随时交流AI PCB及公司情况。

【神宇股份】小作文:

最近这两天神宇逆势走的比较强,有很多来问发生了哪些边际变化以及还能不能上车,这里统一回复下sy的基本逻辑、边际变化和向上空间。再结合这个时间点和大盘的位置,我们看好神宇成为铜缆里的xys,有望复制xys去年11月开启二波走出的波澜行情。

行业进度来看:我们看好铜缆随着英伟达新品GB200在Q3小规模量产,以及Q4大规模出货后成为ai产业链增速最快,供应格局最好的细分。GB200 NVL72处于临产的阶段,8月份B200模组出货,10月份开始量产rack,11月份最早的一批大约200套要交到客户上手了,大约截止2025年5月底就要交付至少5.5W台NVL(36 72),这个生产周期非常紧凑, GB200的上游供应商,比如背板连接器的供应商APH会提早1~2个月就准备好各个ODM厂需要的组装物料并且发货。

行业空间来看:中性假设 如果GB200的份额超过3W台NVL72当量 价值量65W每rack来计算,GB200的铜缆连接器产值在一年半内(5个季度 不算R系列)增量会在 195亿~378亿RMB,全球的整个AI服务器铜缆连接器的2024 2025总产值在395亿~570亿 ,相比2023~2024除了GB200以外的产品200~300%yoy增长 。每台NVL72的线材每rack的采购价格在20~25WRMB,对应 60亿~105亿线材产能的需求

铜缆连接器行业格局来看:2024H2-2025H1英伟达小弟安费诺100%独供(下一代R系列首发依然安费诺100%独供),2025年Q3~Q4,安费诺70~80% molex TE 20~30% (可能会收取12~20%的专利费),立讯精密5%~10%,鸿腾精密。

安费诺的嫡系供应商:安澜(224G过验证,但没上市),神宇(承接了大部分溢出的112G需求,224G在验证)。非嫡系委外技术够硬的乐庭(沃尔子公司,正在验证成缆)

神宇内在逻辑:主营业务最纯正,芯线占营收比重90% ,芯线占GB200铜连接器线材的成本大约20~30% ,对应增量市场空间在20亿。假设神宇占20%-30%份额,保守看明年突然利润放出来赚个4-6亿也是很正常的。GB200拉货速度非常快,按照周五的新发货单来看,从六月份的单日几百公斤加到了单日3吨(高于预期的2吨),至少140W每天的价值量,最令人瞩目的是除了32系列112G外,还多了新型号26 28系列(价值量和毛利更高)。

上涨空间:大盘下跌成交量如此冷清的情况下逆势抢筹拉升三天,逻辑很硬资金认可(这点从早盘部分比较脏的资金兑现后承接良好封涨停可以看出)。作为下半年景气度最好的ai赛道里成长细分最快的新增量赛道,目前60亿的市值也不是终点。我们认为神宇可以对标去年光模块里的追赶者新易盛,预期差最大(一个是400G—800G,一个是112G—224G线芯),行业格局最好。参考新易盛23年11月第二波从30涨到现在116翻了三倍多,我们看好调整充分的神宇第二波先到目标市值100亿(对应明年16倍),如224G通过,看到150亿,成缆通过验证看到200亿。


追加内容

本文作者可以追加内容哦 !