英博简报:百川再发大模型,超大型智算集群成AGI基建刚需标配

英博数科 英博数科 2023-09-17 22:15 发表于北京 34人听过

图片

本篇文章内容较长,预计阅读时间16分钟

图片

联合京能国际共建“北京AI创新产业园”

万卡智算集群纳入双方本轮谈判重点


图片

此前京能集团党委班子、董事会领导成员莅临英博数科智算中心及公司总部进行考察交流,双方在通用型人工智能发展、数字基建建设标准等多个维度观点高度契合,就共同建设“北京AI创新产业园”达成合作备忘录,计划对标英伟达H800或同级别产品单卡算力,共同在北京建设万卡智算集群,以满足下阶段AGI大模型创新企业的成长需求。


图片

Baichuan 2正式发布:

打破国际模型对华不友好,小参数办大事真开源


图片

 延展阅读:Baichuan 2技术报告:全面取代LlaMa2,Baichuan 2自曝史上最全训练细节

百川开源大模型下载链接:https://huggingface.co/baichuan-inc

2023年9月6日,百川智能在北京中关村国家自主创新示范区展示中心举行“百川汇海,开源共赢”为主题的Baichuan2开源大模型发布会,在一系列公开参数对比及权威技术机构评测中,绝大多数场景的表现均优于目前国外声誉最高的LLaMa 2,创始人王小川在介绍产品技术参数后自豪的宣布,“从今天开始,中国企业用LLaMa 2的时代已经过去了,现在我们可以获得比LLaMa对中国企业协议条款更友好,能力更强的开源模型,帮助扶持中国整个开源生态的发展。”今年2月,英博数科一期DGX标准单元SuperPOD集群刚开始组网调优的阶段,百川智能创始人王小川、茹立云及核心创始团队技术骨干成员就开始了和英博数科团队的沟通,通过双方“全天候24小时战略合作伙伴群”为英博数科智算平台提供了从短期服务定位到长期发展目标、集群优化、极限峰值压力测试等一系列的沟通建议,英博数科初期“专业AI多模态大模型训练平台”的定位就来自于王小川的建议,在这个原则上快速推进的设备选型、采购部署为英博数科及鸿博股份现阶段的市场影响力预先奠定了基础;在英博数科技术团队尚处于组建的阶段,百川智能的技术骨干凭借过往丰富的业内经验,国内互联网行业少有的对GPU及IB网络的认知和使用经验,为英博数科的组网调优能力提供了大量帮助,以及提供对智算集群极限压力测试所使用的大模型,而集群优化与模型发展相结合的调优加速能力也成为了英博数科建立差异化竞争力,以及通过体验感加速获客的显著优势。百川智能是英博数科智算中心测试期的合作伙伴和顾问,也是今年5月智算中心正式商业化运营后的第一个签约付费客户应该说百川智能是国内宣布入场大模型较晚的团队,但一直保持着极快速的发展节奏,自今年6月自有开源模型首发以来,几乎每月一次的速度高频迭代,此次发布的版本已经是第三次发布开源大模型。更难得的是,百川智能不仅开源微调后的Baichuan2-7B、2-13B、2-13B-Chat与其他4Bit量化版本的免费可商用,更创下国内首次开源模型训练从220B到2640B全过程的Check Point,短时间内包括Hugging Face 、阿里魔塔社区等一周内累积下载量超过500万次,所以复旦大学计算科学技术学院教授、博士生导师、中国中文信息学会理事张琦表示“百川开源的模型非常干净,并且公布了训练切片,对学术非常友好。”

图片

中国科学院院士、清华大学人工智能研究院名誉院长张钹院士也在开场致辞中高度评价了百川智能用开源模型助力学术研究的价值。张钹院士表示,模型必然是通用的,场景是垂类的,学术研究是研究大模型本身,不是用垂类模型作为不完成扎实预训练的借口,也不是全世界对大模型的工作原理及其产生的现象一头雾水,解释不清楚的情况下就说它是“涌现”,这是我们给自己找的一条退路,只有研究清楚大模型本身,才能让研发更高效、可控,才可能真正发展出具有中国特色的大模型。图片(中国科学院院士张钹致开幕词)

图片

(参会人员现场认真学习记录*来自网友供图)


图片

(百川智能创始人王小川现场介绍产品技术参数)

英博数科CEO周韡韡在出席Baichuan2发布会后与粤民投总裁陈杰沟通时说,“或许Open是百川团队已经烙印在血统中的DNA,无论是过去对英博数科的帮助,还是现在对整个同行业的开源共享都体现了这一点,这是大成者必备的德和并非所有学术者都具备的胸襟。在过去一年对英伟达产品、商业模式的学习思考中深深的感受到真正构建英伟达品牌护城河的是其通过业内最大规模覆盖的开源软件、算法和全球大量使用这些开源工具的开发者们组成的生态系统;开源是构建生态的基础,生态是繁荣产业的必备条件,只有开源和生态链才是打破封锁,‘解决卡脖子’问题的方法和路径,终于在我们一直靠战斗推动发展的TMT行业看到了真的敢开源,懂生态意义的有格局的企业家创业者。”粤民投总裁陈杰也表示,“从底层基建到软件算法,最终通过开源构建生态是一个‘捅破天’的发展,通用型人工智能是未来的方向,粤民投愿最大限度发挥自己的资源优势,联合英博数科,共同推进AGI超大型智算中心、垂类行业场景产品设计、共同为国内AGI的发展做出自己的贡献!”最后,英博数科CEO周韡韡与阿里云、字节跳动火山引擎、腾讯云、百川智能、亚马逊云等多家代表共同启动“创新、协作、共赢”开源生态合作。图片

图片

英博数科受邀参访光博会,

感谢光模块合作企业并达成下阶联合测试研发意向


图片

(英博数科CTO吴东参访光迅科技展台)

9月6日,中国国际光电博览会(简称“光博会”)正式开幕,展会覆盖光模块、光刻机、半导体、AR/VR、激光雷达等多个热门领域。英博数科CTO吴东带领团队前往内场探访中际旭创锐捷网络光迅科技剑桥科技等企业,以感谢合作伙伴前期在英博数科北京智算中心建设、H800集群组网调优及融合性算力实验室工作中给予的大量帮助,并与光迅科技剑桥科技达成就下一代800G、1.6T光模块与超大型智算集群的适配共同进行测试研究。图片

(英博数科CTO吴东参访剑桥科技展台)

目前英博数科智算集群的计算网络通讯速率已完成200Gb/s到400Gb/s的升级,作为数据传输的通道,光模块这一精致小巧的元件在大语言模型训练、推理及超大规模智算集群中起到举足轻重的作用。尽管高端产品线中国企业与国际领先水平仍存在一定的差距,但中国光模块企业正在加速追赶,英博也对于合作企业给与的产品交付支持表示由衷的感谢。


图片

签约建设重庆长寿区智算产业园

东数西算关键节点万P稠密算力即将落地


图片重庆市长寿区人民政府、国家发改委下属中城立扬产业发展有限公司一行在英博数科座谈交流近期,英博数科与重庆市长寿区人民政府、新华社、国家发改委下属中城立扬产业发展有限公司等多家就在重庆长寿区建设用于通用型人工智能研发的大型智算中心采购建设,及交付后先导性示范项目引入、托管运营等业务达成合作意向并签署协议。在与各签约合作伙伴沟通的过程中,英博数科发现,由ChatGPT点燃的AI热潮已经进入全民普及、全产业投入的阶段,对于现阶段通用型人工智能主要应用AI生成式内容大模型开发所需要的算力类型、规模的认知快速提升,需求也越来越具像化,均表示出对于单一物理空间内大型(2000P以上FP16算力)智算集群需求的紧迫性,且超过90%的智算中心建设需求所要求的设备均为英伟达A&H系列高传输(NVLink)、80G大存储版本的智算服务器。新华融合媒体科技发展(北京)有限公司,又称新华社国家重点实验室是中宣部指导、科技部批准建设的新华社媒体融合生产技术与系统国家重点实验室指定单位,也是英博数科创立早期就给予大力支持的重要战略合作伙伴,重点围绕人工智能在新闻生产流程中的应用,跨媒体信息分析和推理,人际协同复杂问题分析、响应及评估,开展媒体融合生产技术与系统应用基础理论研究,具备一流的科研创新平台和丰富的交叉学科高端科技人才,持续产出对媒体融合有重大影响的科技创新成果。中城立扬产业发展有限公司是国资委旗下在企业投融资、基金发行与管理领域具备丰富成功案例及经验的公司。此前, 新华社国重与中城立扬及英博数科团队针对数字人直播在乡村振兴、文旅数字化升级、元宇宙及数字产业衍生品及AI生成式内容规范等方面进行过多次深度沟通,最终决定在重庆市长寿区人民政府辖区内,分阶段建设完成整体规模不低于2万P人工智能算力(稠密),及包括AI产业人才教育、产学研基地、产业基金及孵化器、国际学术论坛会议展馆、专家公寓等设施在内的“重庆长寿湖人工智能生态园”。一期交付不低于总体规模10%的AI(稠密)算力。合作中将充分利用各方资源优势,特别是英博数科在英伟达推荐架构(SuperPOD)累积的部署、调优实践经验,以及多模态大模型类丰富的客户资源储备,快速完成将先进生产设备转化为先进生产力,推动所在地AGI数字基建发展及人才储备;算力中心交付后,将全权委托英博数科通过其搏搏云及数据服务技术对智算集群进行管理运营。


图片

贵阳市政府领导再度与英博数科进行深度座谈,投资方贵州中云文化大数据与英博数科签约合作2000P智算中心


图片(英博数科及顾问团队与贵阳市政府领导班子就贵阳智算中心建设及生态项目引入进行座谈)9月7日,英博数科CEO周韡韡、CTO吴东、投资者关系总监邱领、渠道总监李润丰及英博数科顾问团队一行赴贵阳,参观贵阳智算中心及生态园项目合作伙伴、贵州省文化产业投资管理有限公司、中云文化大数据科技有限公司基地,并与贵阳市市长马宁宇及领导班子成员进行在地项目开发座谈,沟通多方需求及发展目标,后在贵阳大数据局局长张雪蓉陪同对多个拟选定运营机房进行实地踏勘,确认基础设施改建方案。
图片

(英博数科团队在中云文化基金总经理杨国栋陪同下参观中云基地,并了解中云与国家新闻版署所合作的版权数字化项目)


贵州省文投于2013年由贵州省委宣传部发起组建,其贵州文产基金管理基金15只,基金规模超过60亿元人民币。2015年投资组建孵化的中云文化大数据公司,深耕数据产业多年,是贵州广电传媒控股子公司和“国家数字音像传播服务平台(又称“版权云”)”的开发建设主体,推出全国首创“区块链存证+版权登记证书”双证服务模式,其云渲染平台在《红海行动》、《战狼》等200多部票房口碑俱佳的影视作品中提供后期服务,2022年,获得贵州省委宣传部、版权局批复,授牌为“国家民族民间文化版权贸易基地(西南)”今年5月贵阳数博会期间,贵阳市市长马宁宇会见英博数科CEO周韡韡,就推动贵阳AI智算中心建设运营、引进AI头部企业落地进行沟通及后续合作部门对接指定了具体的领导作为专项负责人试水以确保项目的高效推进。后续,贵州文投、中云文化董事长俞昊一行赴北京调研,细化与英博数科在贵阳智算中心合作事宜并进行可行性报告编撰;8月23日,中云文化与英博数科就在贵阳地区建设2300P人工智能智算中心,并引入搏搏云,通过贵州大数据基因及经验累积,开展AGI产业引入、vGPU研究、云上云管及数据资产入表、数据登记确权等方面业务签署合作协议。此次英博数科再次前往贵阳,旨在进一步了解合作伙伴业务,规划数据资产生产业务,并通过实地踏勘、需求细化、工作组权责分配,力争在今年内实现50%规划算力设备到货。

图片

英博数科受邀协办服贸会AIGC论坛,

分享数字基建运维经验及升级版发展战略


图片延展阅读:鸿博股份副总裁、英博数科CEO周韡韡在服贸会的主旨演讲实录及演讲录音

扫码查看演讲实录

周韡韡服贸会AIGC论坛主题演讲,英博数科,13分钟 2023年9月2日-6日,中国国际服务贸易交易会在京举行,作为中国三大交易会之一,服贸会是经国务院批准,国家商务部、北京市政府主办,世贸组织、联合国贸发会、经合组织等国际组织共同支持的国际盛会,也是中国政府在服务贸易领域里举办的唯一国家级展会,旨在为国际服务贸易交流合作搭建平台。随着以ChatGPT为代表的生成式人工智能的出现,AI产业成为今年全球关注的焦点,本届服贸会也有大量的AI产业服务合作达成。由亚太工程组织联合会、中国信通院云计算与大数据研究所共同主办,鸿博股份暨北京英博数科科技有限公司、北京九章云极协办的“AIGC产业发展论坛”在北京首钢园区举行。论坛由中国联通研究院副院长唐雄燕主持,工信部原总工程师、信息科技通讯委员会副主任兼秘书长韩夏致开幕词,加拿大工程院外籍院士、HiDream创始人梅涛院士、猎豹移动董事长傅盛、联想集团首席技术官兼高级副总裁芮勇、摩尔线程创始人兼CEO张建中、鸿博股份副总裁兼英博数科CEO周韡韡、中移动研究院院长段晓东、智谱AI CEO张鹏、IBM全球副总裁、大中华区CEO谢东及英特尔数据中心与人工智能集团副总裁、中国区总经理陈葆立、中国工程院院士、北京交通大学教授张宏科等人出席论坛,并发表主题演讲。图片

(鸿博股份副总裁、英博数科CEO周韡韡)

鸿博股份副总裁、英博数科CEO周韡韡是当天论坛唯一一位来自AI数据中心领域并且从事一线管理运营的嘉宾。鸿博股份作为传统企业转型AI赛道成功带来市值10倍增长的明星股备受关注,其全资子公司英博数科定位于专业AI多模态大模型服务商,从事智算中心、数据要素及资产开发、GPU云服务及AI产业实验室等业务。英博数科CEO周韡韡作为国内首个市场化运营的英伟达标准单元DGX推荐架构智算平台管理者,通过对平台用户的观察,给出了犀利的观点。随着通用人工智能的发展、数据资产如表等一系列新规的执行,对于算力资产加工和千亿级大模型团队而言有着更大的算力需求,建设单一物理空间、通讯集群的超大型智算中心是这轮AI竞赛的胜出者们迫在眉睫的需求,所以英博数科将联合北京国资委旗下能源企业在通州就此目标共建万P智算中心,并加速落成进度,为国产AI的突破研发提供土壤。


图片

鸿博股份成为 中证2000指数第一大权重股


8月11日,中证指数2000正式对外发布,包括华泰柏瑞等多家基金公司相关ETF产品获批,首批中证ETF于9月1日起发售,鸿博股份0.274%占比成第一大权重股。图片

以过往十年的表现来看,中证2000指数的表现明显优于沪深300、中证500、中证1000等前辈级规模指数,截止2023年8月30日,中证2000指数10年来的年华收益率为9.6%,好于沪深300(5.4%)、中证500(4.5%)、中证1000(3.4%)等规模指数,且一直呈现出聚焦民营经济,更全面体现A股企业整体基本面活力的特点,尤其是近年来对于国家支持的专精特新、科技、制造、通讯产业格外关注,是业内公认爆发力强,中长期超额收益显著的宽指基金,可以为市场提供多维度投资标的和业绩基准。

图片



追加内容

本文作者可以追加内容哦 !