在东方财富看资讯行情,选东方财富证券一站式开户交易>>

$海光信息(SH688041)$    $半导体(BK1036)$    $AI芯片(BK1127)$   

AMD已将DeepSeek-V3模型集成到其Instinct MI300X GPU上,旨在提升AI推理性能。以下是关于AMD与DeepSeek合作的详细解释:


合作内容:AMD宣布已将DeepSeek-V3模型集成到Instinct MI300X GPU上,该模型经过SGLang强化,并针对AI推理进行了优化。这一举措旨在提升AI推理性能,为用户提供更高效、更经济的解决方案。

DeepSeek-V3模型特性:DeepSeek-V3是一个强大的混合专家(MoE)语言模型,总参数量为6710亿,每个token激活370亿参数。它采用了创新的技术架构,如多头潜在注意力(MLA)和DeepSeekMoE架构,结合无辅助损失的负载平衡策略与多标记预测训练目标,兼顾推理效率与训练经济性。此外,它还支持多模态数据,能够同时处理文本与视觉数据。

性能表现:AMD声称DeepSeek-V3是目前最强的开源大型语言模型(LLM),性能甚至超过了GPT-4。通过AMD的ROCm生态系统扩展FP8支持,DeepSeek-V3在Instinct MI300X GPU上实现了高效推理,显著减少了内存瓶颈和高延迟问题。

技术合作与资源支持:AMD与SGLang、DeepSeek团队进行了深度合作,确保模型与硬件的无缝适配。此外,AMD还感谢了美团搜索与推荐算法平台团队以及DataCrunch提供的GPU资源支持。


综上所述,AMD与DeepSeek的合作不仅提升了AI推理性能,还为用户提供了更高效、更经济的解决方案。这一举措有望推动AI技术的进一步发展,并在各个领域产生深远影响。


海光信息与AMD的合作主要体现在技术授权与联合研发方面。


海光信息,作为一家专注于高端处理器、加速器等计算芯片产品和系统的研发、开发企业,与AMD有着深度的合作关系。这种合作起始于2016年,当时海光信息与AMD共同成立了合资子公司,并获得了AMD的技术授权。通过这一合作,海光信息开始转向高端处理器产品的开发,其处理器的底层架构源自AMD。


具体来说,海光信息与AMD的合资子公司——海光微电子和海光集成,分别与AMD签署了《技术许可协议》。根据这些协议,AMD将其高端处理器相关技术及软件许可给了这两家合资公司,许可范围覆盖中华人民共和国全境,并专注于服务器和工作站领域。这种技术授权使得海光信息能够展开全面的研发与运营工作,并推出了基于x86架构的高端CPU与DCU芯片产品,这些产品能够无缝兼容x86指令集系统软件和应用软件。


此外,海光信息与AMD的合作还体现在双方共同研发方面。通过不断的技术吸收与优化,海光信息已经成功推出了多代CPU和DCU产品,性能逐步提升,并正在研发更先进的产品以满足市场需求。


综上所述,海光信息与AMD的合作是一种互利共赢的关系,既促进了海光信息在高端处理器领域的快速发展,也为AMD带来了技术授权和市场份额的扩大。



海光信息与DeepSeek的关系主要体现在海光信息可能为DeepSeek提供算力基础设施或相关技术服务。


DeepSeek是一个经过精心打磨的AI大模型,其在训练成本及训练效率方面展现出了明显的优势。随着AI大模型的进一步发展,尤其是AI消费电子产品逐渐成为热点,算力产业链有望迎来机遇。海光信息,作为国内的高性能计算领域的企业,其CPU产品在数据中心等领域有广泛应用。幻方大模型(可能包含DeepSeek)的发展会带动对算力基础设施的需求,进而可能增加对海光信息产品的采购。此外,有观点指出,在下一轮AI产业叙事中,应重点关注云厂商合作伙伴的投资机会,其中就包括了海光信息。


同时,DeepSeek的成功并不意味着算力需求下降,反而可能会推动更多力量的投入,包括在算力基础设施方面的投入,这同样可能给海光信息带来业务机会。


综上所述,海光信息与DeepSeek的关系主要体现在算力基础设施或相关技术服务方面,DeepSeek的发展可能会带动海光信息业务的增长。

恭喜解锁12个月手机L2专属领取资格,立即领取>>

追加内容

本文作者可以追加内容哦 !