史上最快Transformer芯片诞生,英伟达地位或将不保! 就在前几天,芯片初创公司Etched宣布完成1.2亿美元的A轮融资,
并且在同一天发布了世界上第一个基于Transformer架构的专用芯片“Sohu”。
据说,这款芯片在跑Llama 70B时,
每秒可生成高达500000个token的输出,相当于可以在两秒内写完一本《水浒传》
而这样的成绩:

是8张英伟达B200的10倍;是8张英伟达H100的20倍。

换句话说,1张Sohu约等于10张英伟达B200;或者20张英伟达H100。

更关键的地方在于,

不管是OpenAI 的GPT系列,还是谷歌的PaLM,又或者是Facebook的LLaMa,

眼下几乎所有头部AI公司都在使用Transformer架构。

这意味着,Sohu芯片将可以大幅降低极大多数AI企业的运营成本。

而据Etched创始人透露,目前已经有匿名客户预订了数千万美元的硬件。

讲到这里,如果你觉得还不够震撼,那么我们再换个角度,

试想一下,如果AI模型一夜之间速度提高20倍且成本降低,将会发生什么?

实话讲,这样的革命性产品的影响,我很难想象,

所以只好借用Etched官方的话:

“就Transformer而言,Sohu是有史以来最快的芯片,没有任何芯片能与之匹敌!”

大家都知道,放眼全球,半导体行业多年来一直被英伟达和超微垄断,

自打AI火爆全球之后,两家企业那是赚得盆满钵满,

尤其是英伟达,前不久市值一度超越3.3万亿美元,超过微软成为全球第一。

而这一次,Etched如同神兵天降,必然会对半导体行业格局带来不小的影响。

但令人我怎么也想不到的是:

在这家一鸣惊人的芯片企业背后,站着的居然是两个00后“辍学”青年。

作为两位创始人之一,Gavin Uberti(加文-乌贝蒂)是个“数学怪”,

不仅高中时就拿下了美式数学竞赛冠军,并且在2020年顺利考入了哈佛。

和Gavin Uberti一样,Etched另外一位创始人华裔小伙Chris Zhu(克里斯-朱)也是个“天才”,

读书期间,就在哈佛和麻省理工担任教员和辅导员了。

2022年初,Gavin选择休学一年,跑出去给人打工,

在知名机器学习公司OctoML担任软件工程师期间,Gavin注意到Arm指令集中的一个bug,会大大降低处理器的工作效率。

这一发现,让Gavin萌生了创业的念头。

于是,他拉上Chris Zhu以及另一位校友,正式成立了Etched,并押注了Transformer专用芯片这一领域。

这里有个非常关键的信息:

那就是在Etched成立的时候,ChatGPT还没有问世,

并且市面上大多生成模型用的都是U-Net、CNN之类的架构,基于Transformer架构的大模型几乎没有。

但这两位小哥愣是坚信——Transformer大模型将会统治世界,

并且,他们还在Etched官网写到:

“如果未来 Transformer 消失或被取代了,我们就会死;但如果它继续存在,我们就会是有史以来最大的公司。”

毫无疑问,从目前来看,他们赌赢了,

并且,随着融资越来越顺利,手里的筹码越来越多,属于Etched“疯狂时代”或将加速上演!  


追加内容

本文作者可以追加内容哦 !