$云天励飞-U(SH688343)$ 算力弹性最大的是芯片
云天励飞是一家在人工智能领域拥有全栈式能力的企业,其算力芯片具有以下特点和优势:
技术架构先进
• 云天励飞提出了“算力积木”AI芯片架构,采用D2D Chiplet和C2C Mesh等技术,以标准化的大模型计算单元为基础,像搭积木一样灵活组建、扩展芯片算力,可覆盖8T-256T不同算力应用,满足多种边缘场景对算力、内存、带宽的不同需求.
• 设计了近存计算架构、自研多Router协同机制以及自适应Router结构等,实现了Transformer计算的超低延时、提高大模型参数数据响应速度,并减少数据搬运次数和对带宽的需求.
性能表现强劲
• 2024年12月27日推出的新一代智能算力芯片,采用8nm制程技术,算力达到512 TOPS,支持多种深度学习框架运行,可满足从边缘计算到云计算的各类需求,还支持8K视频处理,性能评分接近299,在市场上极具竞争力.
• DeepEdge10系列芯片作为国内首创的国产14nm Chiplet大模型推理芯片,最高算力可达48TOPS,可承载百亿级大模型运算.
应用场景广泛
• 可广泛应用于AIoT边缘视频、移动机器人、智慧交通、清洁机器人等边缘计算场景,还可应用于智能监控、自动驾驶、智能制造等领域,有效解决数据上云的隐私问题,并凭借大模型的泛化能力覆盖多种长尾场景.
• 基于Mesh Torus架构的大模型边缘推理一体机IPU X6000-Mesh 4U Server,可支持7B、70B、MoE等主流大模型的边缘侧推理部署.
市场竞争力强
• 云天励飞是国内唯一一家ASIC AI芯片和推理卡制造商,其芯片及相关产品具有自主可控、性价比高的特点,为特定用户群体提供了极具吸引力的选择,也推动了国产AI芯片在边缘计算领域的发展,打破了国外技术垄断.
• DeepEdge10系列推理卡已经适配了包括云天天书、通义千问、百川智能、以及Llama2/3等在内的近十个主流大模型,具有良好的市场适配性.
本文作者可以追加内容哦 !