高通在骁龙芯片上推理stable diffusion模型,到华为推出基于手机算力的“智能搜图”功能,AI正持续向端侧靠近。

  “端侧是AI模型应用不容忽视的重要场景。”6月20日,华金证券传媒首席分析师倪爽在华金证券AI产业2024全景论坛表示,越来越多的AI计算和推理工作负载在手机、笔记本电脑、XR头显、汽车和其他边缘终端上运行。

  作为在终端设备上进行的轻型模型运用,端侧AI具有隐私和安全、低延时、可靠性、低成本等技术优势,但也面临着参数量小、功能相对有限等挑战。

  “端侧AI趋势已定。”华金证券电子联席首席分析师王海维在论坛上表示,AI手机需要完成算力、带宽、内存等硬件升级以确保AI模型顺畅运行,一方面有望驱动新一轮换机周期,另一方面也有望带来半导体新周期。


追加内容

本文作者可以追加内容哦 !