据说大模型推理芯片以每秒500tokens的速度引起轰动,超越了GPU和谷歌TPU
世界最快大模型Groq登场!每秒500 token破纪录,自研LPU是英伟达GPU 10倍
Groq使用的是SRAM,其速度比GPU所用的存储器快约20倍。
不管是SRAM还是HMB,落到板块上面,主要体现在存储板块的上涨。
还有华为春节发布说的AI存储芯等等
不管ai数据还是ai视频 都是用到存储芯片
所以就拉板了,小消息很多 后面怎么走待观注
追加内容
本文作者可以追加内容哦 !