$云天励飞-U(SH688343)$ (转载自百度AI上层楼)
近期商汤科技裁员新闻继海康威视之后成为了各大科技媒体报道的热点,那么2024年,还有AI公司在盈利的吗?答案是有的。
29日,云天励飞发布24年Q3业绩报告,表示2024年第三季度实现营业收入1.94亿元,同比增长140%;前三季度总计,实现营收4.83亿元,同比增长112.52%。营收增长主要系智算运营业务收入及智能硬件产品销售收入增加所致。
刚好北京安博会开完很多人在聊大模型,那么这篇咱们就聊聊,云天励飞的转型以及大模型相关的话题。
聊起云天励飞,最被人熟知的是2017年春节前夕15个小时帮助民警解救被拐卖儿童的案例。据网上公开资料显示,这套“深目”系统是2015年深圳龙岗公安分局与云天合作的城市级解决方案,据悉这也是云天励飞的首款产品。但那时,与业内人士交流,也有人透露这里面扮演重要角色的是华为,并不是云天。
自2016年开始,安防行业进入到AI时代,与云天励飞类似的AI企业不断在业内冒头,AI也让原本沉寂的安防市场重新获得资本市场及科技圈的青睐,俨然与传统安防形成两大阵营,风头更盖过当年的互联网派系。
但与其势头相比,实际的营收却一直困难,相反各种花边新闻旷视上市及内斗、商汤律师函、云从“国家队”之迷,掉队的依图等等成为业内饭后的谈资。在近期,云天工作人员透露,过去10年里,有很多算法创新公司,包括他们在内,基本很难实现盈利。
笔者总结其观点,主要有两点:
一是安防场景多,即人们常说的碎片化,给AI算法公司带来的最大问题是为了满足这些场景需求,需要各种各样的长尾算法,但这种算法生产效率容易出现投入产出不成正比的情况;
二是用于边缘AI场景的芯片和算力五花八门,极度碎片化的产品,无法让AI芯片与AI算法公司难以确保哪类型的芯片和算法成为拳头产品,难以实现芯片的规模效应。
而在近两年,大模型的出现,也让行业人士看到了边缘场景的AI落地的新希望。如云天的“云天天书”、依图的“天问”等等,也像当年“人脸识别”般涌现,公共安全仍然是AI的必争之地,与小模型算法时代不同的是,当前大模型时代会在国产化,自主可控的因素上有更多的讲就,因此在这个时代,只言论算力,不谈架构的创新怕是不可能的。
道理很简单,目前国产工艺在未来较长的一段时间内,仍会落后国外2-3代,如何在相对落后的国产工艺上实现大模型这种落地需要的高性能、高性价比的边缘AI突破,必须是要走与国外不同的路子,那么架构创新会是不错的选择。例如云天励飞推出的“算力积木”边缘AI芯片,其基于国产工艺的D2D Chiplet和C2C Mesh的大模型推理架构,这解释起来对一般人而言可能有点复杂,就是“首先实现了一个标准化的大模型的计算单元,这个计算单元可以实现1.8B大模型的实时高效推理;在这个基础上,通过D2D Chiplet艺术,可以实现7B大模型的高效推理;在此基础上,利用C2C Mesh技术,实现了14B的,140亿参数高效推理;进一步通过Mesh Torus架构可以实现高达1000亿以上模型在边缘端的推理”,实现满足边缘算力在保证实时性的情况下,可以实现大模型对于算力的扩展性,以及灵活性的要求。
简单地说,就是一颗芯片就可以满足场景单芯片设备的需要,不需要再加其他的芯片。
但在笔者看来,一般的安防企业想进入到芯片上游的市场,困难重重。当前的大模型时代,除了是高算力、高智能的时代,同时也会是高耗能的时代,据斯坦福人工智能研究所发布的《2023年AI指数报告》,AI大语言模型GPT-3一次训练的耗电量爲1287兆瓦时,大概相当于3000辆特斯拉电动汽车共同开跑、每辆车跑20万英里所耗电量的总和。报告同时提出,AI大语言模型GPT-3一次训练,相当于排放了552吨二氧化碳。
在这种背景下,对于解决方案供应商而言,针对耗能场景推出更加智能化管控方案,也会是种另类的大模型时代赋能,而这或许是设备及解决方案供应商更擅长的事情。
本文作者可以追加内容哦 !