正如刘凡平所说,在RockAI看来,端侧不是目的,而是实现群体智能的载体。也就是说,要想让每一个人都能够平等地享受AI带来的便利,首先要实现大模型在端侧这个载体上的流畅运行。而当前Transformer架构的主流大模型,均需经过压缩、裁剪等阉割手段才能部署在设备端,性能降低的同时,也无法具备再学习的能力。

于是,RockAI从对基础架构的突破创新出发研制模型大脑。1月,国内首个非Attention机制的Yan架构应运而生,大大降低了模型的算力需求,奠定了大模型在端侧无损运行、进行后续学习更新的基础;而如今Yan1.3在端侧的丝滑适配和超强模力,也向行业证实了RockAI技术路线的合理性,及其最终激发群体智能的充分可能。

追加内容

本文作者可以追加内容哦 !