虽然这家企业也同时沟通了多家大模型提供方,但最后还是选择了岩芯。据悉,不到一个月时间,岩芯数智就针对其业务提供了基于大模型的自动化数据管理方案。
刘凡平透露,通过岩芯的垂直行业大模型,能够为企业降低近约30%的成本投入。
深入业务打通“最后一公里”,纵向做深、横向拓宽
在担任百度资深工程师、二三四五(岩山科技前身)算法总监时,刘凡平一直深入研究深度学习技术,自主设计各类模型,并落地应用,作为发明人申请人工智能技术相关专利20 余项。
但是,在以解决业务实际问题为导向的实践中,银行客户的一句“能用,但不够好”的反馈让刘凡平意识到,对于垂直行业场景来说,通用大模型不算一个足够好的“模”法。
为了深入客户业务,刘凡平带着团队在接下来的一周直接到客户办公室一起办公。在了解了他们的工作模式,以及他们如何应用现有系统后,刘凡平发现,当前行业尤其是通用的大模型,面临着算力成本高的挑战,虽有很强的通用任务能力,却不足以解决众多企业的具体问题。
在技术创新侧,岩芯数智则是通过自研Transformer架构的大模型和非Trasformer架构的大模型来根据客户实际情况进行调度,通过对模型的不断迭代完善模型效率及应用体验。
从去年开始,岩芯数智就通过对第二代Transformer架构模型的自主改进,大幅提升了模型性能。
在第三次迭代中,岩芯从零开始训练并建构了非Transformer底层架构的大模型,即记忆逻辑模型,通过无监督学习直接对数据学习,再通过微调的方式得到结果,强化模型记忆能力,使其在训练效率、推理效率以及应用效果层面都得到很大的提升,可有效降低幻觉对应用效果的影响。
刘凡平表示,技术创新及对优质数据的精选二者结合促成了模型的“可控可信”,在决策时可通过参考内容提供并追溯信息源,可准确判定生成内容的安全性,可预测输出结果的价值并预判非安全行为的发生,能够在实现多样性输出的同时,保障输出结果的相对公平性和包容性。
同时,岩芯数智的记忆逻辑模型由于大模型成本和训练效率在服务器比别人少、算力成本可降至30%~40%的情况下,仍能达到较好的效果,从一定成本上使其解决方案更为降本。
“可控可信”+“高性价比”,恰好是行业所亟需的数智化解法。
刘凡平依稀记得,在为一家企业客户介绍完岩芯垂直大模型后,就要求岩芯“立刻”帮其解决自动化管理数据的难题,甚至希望公司能立即派人前往支持。
“这是一种由强烈需求激发出来的动作。智能化管理数据过程不能出任何差错,智能化程度越高,专业度也会更高,对模型要求也会更高。得知岩芯数智可控可信的大模型能够帮助他解决这一块问题后,他就希望能赶紧接入。”
虽然这家企业也同时沟通了多家大模型提供方,但最后还是选择了岩芯。据悉,不到一个月时间,岩芯数智就针对其业务提供了基于大模型的自动化数据管理方案。
刘凡平透露,通过岩芯的垂直行业大模型,能够为企业降低近约30%的成本投入。
深入业务打通“最后一公里”,纵向做深、横向拓宽
据介绍,岩芯为企业提供的模型解决方案有两种。
一种是客户可以直接接入岩芯的垂直行业模型,但这就需要企业有自研能力,包括信息化部门、运维团队等,门槛相对较高。
另一种则是由岩芯提供一套深入客户业务的大模型解决方案,主要针对制造业等信息化程度较低的传统行业,以及对迫切的生产力变革有着极大诉求的中小企业,需要模型提供方提供更多支持。
相较于前者,后者的深入业务过程和私有化部署在刘凡平看来,意味着岩芯扛下了“所有累活”,为企业打通了模型应用落地的最后一公里。
刘凡平坦言,如果仅仅在通用大模型的基础上,利用行业数据进行微调,最终的应用效果其实并不足以满足用户的实际需求。但如果在通用数据的基础上,再加上行业的专业数据以及业务数量进行预训练,即通过企业的私有化数据对模型进行预训练,那就会用更专业的数据产生更专业的智能涌现现象。
值得注意的是,私有化升级在早期也面临着数据安全问题。
针对此,刘凡平也给出了岩芯数智的解法。一是客户可以通过少量数据提供,结合岩芯现有数据,在私有云上进行训练;二是可以基于岩芯建立的垂直行业大模型,改进算法后在客户的机器上进行训练。如此一来,岩芯无需翻阅数据,客户只需将数据放在指定目录下,启动模型训练指令,即可在客户方进行模型训练,完成一个内部的私有化升级。
据介绍,岩芯大模型通过实现私有化部署,可以将客户内部权限及模型大脑打通,以实现安全的权限管理,以提供丰富的企业应用插件,响应企业内部的多元需求,辅助大模型的落地应用,并且这些插件通用,比如搜索引擎、天气、股市等插件,或报销流程、请假插件等,满足客户的广泛需求,把模型的能力赋能到企业内部的流程工具当中,以提升生产效率。
据悉,从今年6月开始,岩芯数智的垂直行业大模型就开始商业化,并率先应用于对降本增效诉求较为强烈的金融和制造业,合作了数家案例。
其中,岩芯数智与邮储银行合作成立了国内最早一批银企联动AIGC项目,针对组织架构、硬件保障、软件创新等方面进行了重点部署,着重满足银行业务对内容专业性、严谨性、可解释性、合规性、数据安全性等要求。双方也将持续深化技术探索与产业投研建设,逐步实现投产落地与产业升级。
“通过深耕垂类场景,岩芯数智希望构建实现 ‘1个MaaS平台,多种应用场景策略’,为行业开发可信赖的、高性能的垂类模型。未来在15-30天内即能完成对一个企业客户
随着由ChatGPT掀起的大模型浪潮从通用领域席卷垂直领域,政务、公共安全、医疗、金融、健康、制造业等领域都在开发专用垂直细分赛道的大模型产品,加速AI应用的场景化落地进程,A股上市公司也纷纷成为玩家中的主力军。
譬如岩芯数智背靠的岩山科技,近年来也全面拥抱人工智能,已在人工智能领域的智能驾驶、类脑智能、AIGC等新兴领域进行了布局。岩芯数智的成立,既代表着老牌互联网公司角逐新时代的决心,也意味着这波大模型的厮杀已从上半场的自研走入下半场的卷资源、卷落地的商业化篇章。
大浪淘沙之下,实践检验真理的时刻或许到了。
本文作者可以追加内容哦 !