$云天励飞-U(SH688343)$  2024年推出IPU-X6000加速卡,主要用于大模型云端推理,其内置高效大模型推理DeepEdge200芯片,具有256T大算力、486GB/s超高带宽、128GB大显存、c2c mesh互联,可应用于语言大模型、视觉大模型、多模态大模型等各类大模型推理加速领域,目前已经支持适配云天书、通义千问、百川智能、智谱清言、Meta等30+开源大模型,涵盖1.5B参数到70B参数量,预期能使大模型推理成本大幅度下降。

IPU-X6000加速卡,DeepEdge200芯片,云天励飞这货终于有点给寒武纪提鞋的资格了。开始建仓,参加模拟操作

追加内容

本文作者可以追加内容哦 !