$汉得信息(SZ300170)$ Al Factory 解决方案将如何与公司的现有产品结合,其核心功能和技术优势是什么?目前取得了哪些具体的商业化进展?
公司计划将英伟达的 AI Factory 套件打包整合到自有的AI中台中,共同销售给客户。其核心功能主要有两点:第一,实现GPU算力的虚拟化和池化。通过将单个GPU卡虚拟化为多个微GPU,可以显著提升GPU的利用率。根据官方测试数据,在百卡集群规模以上,利用率可提升约30%,从而提高性价比。第二,通过NeMo组件将算力调度微服务化。传统上直接调用GPU需要通过CUDA编程,对应用开发者存在一定技术门槛。将其转变为微服务后,可以与公司A中台、数据平台等底层同为微服务架构的产品无缝打通,极大地方便了应用层的开发与集成。目前,该方案的研发和打包工作已经完成,相关的务合作也在推进中。现已与一个客户签订合同,项目正在实施,预计在2026年6月底至7月初会有阶段性成果可以分享
追加内容
本文作者可以追加内容哦 !