$岩山科技(SZ002195)$  

        岩山科技投资的墨芯人工智能科技主要生产成品计算卡(计算卡是整合了AI芯片、内存等在内的一整套成品)。属于独角兽企业,供大家参考。

        墨芯人工智能的商用产品主要包括多款AI计算卡,这些产品基于其自研的稀疏计算芯片,适用于大模型的推理和训练。以下是墨心人工智能的一些主要产品型号:

        SparseOne™ S-100:对标英伟达T4,算力达31031 FPS,运行ResNet-50时,算力是T4的6倍,而功耗不到T4的1/2。

        S-300:对标英伟达A10和A30,计算标准模型ResNet50,算力超90000 FPS。

       S4:单芯片卡,运行ResNet-50算力达33197 FPS,功耗约70W。

       S30:三芯片卡,在250W功率下提供等效于2832 TOPS INT8和1415.4 TFLOPS BF16的算力(32倍稀疏化),板载60GB LPDDR4x内存,提供高达252 GB/s的理论内存峰值访问带宽。

      其中最强的S30计算卡,在1760亿参数的BLOOM模型上,4张S30计算卡的内容生成速度达到25 tokens/s,超过8张英伟达A100,更关键的是同计算性能下比A100能耗低不少。已跻身国产计算卡第一梯队。这些产品在数据中心AI推理应用中表现出色,广泛应用于互联网、运营商、生命科学、自动驾驶等多个领域。

追加内容

本文作者可以追加内容哦 !