10月16日-18日,首届湾区半导体产业生态博览会在深圳举行。云天励飞受邀出席“AI芯片与高性能计算应用论坛”,分享国产边缘AI芯片架构创新思路。云天励飞提出了“算力积木”AI芯片架构,让芯片能够像搭积木一样灵活组建、灵活扩展。

    以云天励飞基于“算力积木”打造的国内首颗国产工艺边缘AI芯片DeepEdge10系列为例,DeepEdge10系列芯片基于一个标准化的大模型计算单元打造,可实现1.8B大模型的实时高效推理。

     通过D2D Chiplet技术、C2C Mesh技术和C2C Mes Torus技术,云天励飞将标准计算单元像搭积木一样,封装成不同算力的芯片,覆盖8T-256T算力应用,可实现7B、14B、130B等不同参数量大模型在边缘端的高效推理。

追加内容

本文作者可以追加内容哦 !