问:苹果今年AI服务器的数量是多少,其服务器的主要配置是什么?
答:今年苹果总共生产了约2万台A服务器。这些服务器主要基于英伟达的芯片进行构建,其中大部分(约占8000台)使用了英伟达的H100GPU卡作为训练服务器,每台服务器配备八张AH100GPU卡;而另一部分(约占12000台)则是采用英伟达40系列推理卡的推理服务器,每台服务器内部含有四个X0芯片。
问:苹果计划如何在未来几年内逐步实现AI服务器中自家芯片的替代并降低对外部厂商芯片的依赖程度?
答:苹果计划从明年开始在其推理服务器中加入自主研发的M2芯片,并逐步增加这一芯片在整体服务器中的比重。据预测,在2025年时,苹果的推理服务器将有大约10%采用M2芯片,到了2027年,这一比例有望提升至近50%。然而,目前对于自研芯片的A服务器生产并未明确指定具体由哪家代工厂负责制造,目前的竞争者包括富士康红海和立讯精密(39.720, -0.43, -1.07%)两家公司。
问:苹果私有云的数据模型训练何时完成,之后服务器的运算任务将以什么为主?
答:预计到今年年末,苹果私有云的数据模型训练将全部完成。届时,随着训练模型进入实际应用阶段,服务器的计算任务将从主要集中在训练上转变为更多地服务于推理需求。具体来说,明年大约80%的服务器将用于推理任务,只有约20%用于训练;而在2026年左右,随着数据模型应用趋于稳定,推理与训练任务将达到平衡状态,大致比例为7.3。
问:苹果的AFG与其他厂商的AFG相比有何显著区别?针对苹果的推理和训练服务器,其性能和售价是多少?
答:苹果的AFG与基于英伟达芯片的其他AFG并没有太大区别,因为它们都采用类似的硬件配置,如内存、硬盘和网卡等通用物料。苹果的S40推理服务器售价约在6万至7万美元一台,而H100训练服务器售价大约在21至22万美元一台。今年计划推出的2万台服务器中,有约1万台是推理服务器。
问:苹果是否考虑根据不同地区的需求将AI服务器分开部署?
答:是的,苹果可能会根据国内和海外的不同需求分别设置服务器。目前在国内,仅部署了通用服务器,因为推理卡暂未受限制,可以在国内使用,但大部分终端设备仍以海外为主。
问:国内何时可能会开始布局AI服务器?
答:预计至少到2027年后,当海外数据中心的A!模型相对成熟时,苹果才有可能在国内开始建设自己的AI数据中心。
问:如果今年苹果推出AI智能手机,国内这部分智能设备是否会优先使用国内通用服务器支持?
答:两种情况并存:一是通过国内通用服务器提供支持。二是利用亚马逊等公有云平台进行计算。尽管公有云平台的AI用量在下降,但在短时间内完全取代的可能性不大。
问:为什么富士康会选择与苹果合作,并且看重未来的服务器订单规模?
答:富士康与苹果合作是因为看重苹果承诺的未来三年内将采购8万台服务器的订单量。相比较低的年产量(如1万台或2万台),这样的大规模订单对工业产能来说具有较大的吸引力和价值,足以支持富士康的成本回收。同时,考虑到苹果自身的营销费用分摊在整个订单量上,订单量越大,对富士康越有利。
问:对于立讯科技为何争取苹果M2服务器代工项目,它的主要动机是什么?苹果选择自研服务器是出于哪些考量因素?
答:立讯科技试图接手苹果M2服务器代工项目的原因有两个:
一是为了证明自身在服务器代工领域的实力和成功案例,尤其是在竞争激烈的国内市场中;
二是通过此项目增强自身在服务器ODM领域的技术和供应能力,避免因市场份额较小导致业务被裁撤的风险。
此外,立讯还希望通过获取苹果项目,增加自己在服务器ODM行业的影响力和生存空间。
苹果自研服务器主要有两个主要原因:
首先,随着公司开始利用海量用户数据进行个性化的产品和服务推荐,AI服务器的需求大幅增长,以往仅依赖公有云资源无法满足性能需求和成本效益。
其次,在安全性方面,苹果更倾向于控制自有设备中的数据处理过程,避免敏感信息泄露风险。因此,苹果决定自研服务器以应对不断增长的A计算能力和数据安全需求。
问:苹果自建AI服务器后,您认为这将如何影响行业,并且对那些可能面临大量服务器需求的企业有何建议?
答:当苹果自建AI服务器时,行业中的反应将是积极的。对于需要超过1万台服务器的企业而言,自建可能是更好的选择,特别是在大型或超大型客户群体中,他们已发现公有云并非最经济高效目可保障安全性的解决方案。虽然初期公有云强调按需付费的优势,但后来转而强调专业保密性和物理隔离等特性。不过,这些改变并未满足部分大型企业的需求,因此出现了完全抛弃公有云转向自建机房的趋势。
问:大型企业是否仍会在某些场景下依赖公有云?如果是,主要用途是什么?
答:大型企业在采用自建机房的同时,仍会保留并利用公有云进行数据备份和灾难恢复。例如,作为冷备份手段,以便在本地数据发生问题时启用云端应用。尽管如此,公有云因其存在数据泄露、服务中断等问题,逐渐失去了成为唯一依赖对象的地位,更多企业将其视为备选方案。
问:自建机房相较于公有云,在运维效率、风险控制及成本方面有哪些优势?
答:自建机房具备较高的运营效率和可控的风险环境,可以实现内外网隔离,确保安全性。尤其在数据量达到一定规模时,整体运营成本相较于公有云更为划算。
问:预计未来几年内苹果自建AI服务器的数量变化情况会如何?
答:根据苹果给出的三年预测值,未来两年内苹果自建AI服务器数量可能会有一定调整空间,但降幅不会太大,可能会维持在当前阶段的水平附近,甚至有微小上涨的可能性。而对于2027年后的规划暂无具体数据。
问:除了苹果之外,还有哪些知名公司开始自建服务器用于AI应用?
答:类似苹果的案例还有很多,比如特斯拉、迪士尼、沃尔玛等大型或超大型公司都在实施自建数据中心计划,以满足自身对大规模计算资源的需求。例如,沃尔玛利用私有云进行物流系统、库存管理及内部货物系统的调度,根据不同地区客户需求灵活配送产品。
问:未来AI服务器发展中,公有云占比是否会降低,并且转向非公有云模式成为主流发展方向?
答:虽然公有云平台不会消失,但其与非公有云将形成平衡点。根据当前数据,云厂商提供约55%的英伟达板卡,而非云厂商占据剩余45%。预测明年两者比例将进一步平分为各占50%。
问:云厂商在AI服务器及相关业务中未来的增速预期如何?
答:预计未来一年内,在上云与非上云领域,云厂商的整体增速与市场份额将相对稳定,不会进一步下降至低于50%的比例。
问:苹果自建AI服务器是否仅是个开始,其他硬件终端厂商是否会效仿?
答:苹果自建AI服务器的行为是一个开端,但大多数终端硬件厂商由于缺乏足够的能力和资金,通常会选择利用现有的云计算资源进行推理端应用开发,而非自建数据中心或构建复杂的数学型。
问:苹果在全球范围内部署的10万台虑拟机主要用于哪些目的以及具体在国内外的分布情况如何?
答:这10万台虚拟机主要用于苹果全球范围内的业务,其中绝大部分(超过90%)部署在海外,国内仅有少量配置。随着苹果在国内业务的发展,这一比例将会有所增加,但仍保持在较低水平。
问:未来几年AI服务器训练和推理的比例会发生怎样的变化?
答:当前AI服务器中有大约60%用于推理,随着云厂商训练模型完成后在明年初商业化运营,采购比例将发生转变,推理服务器量会在短期内快速增长,预计到2026年前后,随着应用使用趋于稳定,推理与训练的比例会恢复至正常水平约为7:3。
问:针对苹果M2Ultra芯片与英伟达L40的制造成本差异以及价格预期,您怎么看?
答:目前来看,苹果使用的M2utra芯片在制造成本上预计会比英伟达的L40更高,主要是由于该芯片生产量较小且平均价格较高。此外,M2utra芯片主要由英伟达自家使用,而非广泛应用于其他客户。
问:苹果在构建AI服务器时是否会根据自身需求对通用组件(如内存、硬盘、网卡)做特殊调整?
答:苹果确实在构建AI服务器时会与其他部件供应商进行沟通,以适应相关部件,但目前看来并未对通用件做出重大定制化调整。
问:针对网卡和存储等组件,是否存在倾向于特定规格的选择?
答:目前没有观察到苹果或其他客户倾向于特定规格的网卡和存储组件。
问:除了苹果外,还有哪些客户可能考虑自建服务器?
答:目前除苹果外,没有其他客户计划自建服务器,因为许多传统云厂商如腾讯、阿里也在积极建设数据中心和试验机房。
问:能否分享一下英伟达H100、H200、B100、B200系列GPU近几个季度的出货量数据?
答:H100在第一季度出货量为84万张,在第二、三、四季度分别为64万、24万和14万张;H200分别在第二季度有23万张,第三季度有60万张,第四季度有75万张。而B系列(B100、B200)在不同季度的出货量有所增长,B100在第三季度和第四季度分别出货8万和22万张,B200则分别为10万和40万张。
问:英伟达在推理端的市场份额及未来预测如何?
答:英伟达在推理端的市场份额约为70%至75%,但由于竞争加剧(特别是来自谷歌、AWS等公司的挑战),英伟达推出了B200GPU及其整机柜服务器GB200,旨在提高自身的市场份额并应对潜在威胁。
问:关于苹果未来几年在其推理服务器中使用M2芯片的数量和自研比例规划是怎样的?
答:苹果未来几年的计划是每年采购约2万台服务器,其中自研芯片占比逐年上升,到2026年底预计将达到50%。
本文作者可以追加内容哦 !