带动上游硬件升级
  业内判断,随着未来高规格大模型进入端侧,势必会对终端设备的硬件提出更高要求。霍锦洁也表示,新一代AI手机将带来存储、屏幕、影像设备的硬件升级和成本提升,会推动智能手机ASP进一步上升。
  硬件的升级,首先在芯片环节。联发科技董事、总经理陈冠州认为,端侧AI是AI手机最为突出的能力优势,而芯片是端侧AI能力中的关键一环。“AI手机的硬件架构设计将新增智慧仿生感知能力的支持,并着力于构建高效能的AI算力底座,强化模型库的管理优化。”
  在他看来,硬件平台领域,AI手机对真实世界强大的感知能力和异构推理计算能力将会成为更重要的性能要求。
  国海证券也在一份研报中针对AI手机提出硬件问题——用什么加速推理?该机构指出,过去在端侧做深度学习通常会使用GPU作为计算单元,而GPU虽然相较于CPU拥有更强的并行计算能力,但其处理神经网络仍然效率偏低,且功耗较高。“而NPU相较于GPU的优化主要集中在与CPU的交互方面,拥有更优的能耗比。”
  基于此,国海证券认为,未来可能是CPU、GPU、NPU三U并存的时代,以GPU发展史作为参考,未来NPU可能也会同GPU一样,逐渐成为手机必备的硬件之一。
  此外,内存也是AI手机面临的另一大硬件问题。刘作虎曾透露,70亿大模型正常的模型大小是28GB,为了真正在端侧部署,只能对模型进行压缩和轻量化,最后压缩到最小的3.9GB左右,无论是存储还是内存占用都是这个量级。
  而国海证券也提到,为了使大模型给用户带来更好的体验,一方面需要对模型进行裁剪和量化,另一方面也需要拔高设备的内存配置,使其在存储、传输和计算方面更加平衡。
  业内普遍认为,AI大模型相关的功能与应用对于手机的运算能力、数据存储能力、带宽、功耗控制、内部设计、系统架构、软件交互,甚至供应链管理都提出了更高的要求。而要平衡这些维度,对于目前手机厂商来说仍存在不小挑战。
追加内容

本文作者可以追加内容哦 !