创新加速！赢时胜“携手”昇腾AI、麒麟操作系统助力金融行业智能化升级
小小赢 赢时胜软件 2024年08月22日 16:39
赢时胜AI团队“携手”昇腾AI、麒麟操作系统正式推出“AI-AGENT专业服务器”，为金融行业提供软硬一体、训练/推理全面覆的Total Solution，助力金融机构AI-AGENT应用的加速落地。
此次发布的“赢时胜AI-AGENT训练/推理一体机”，是针对金融行业打造的“自主创新AI服务器+可信操作系统+大模型训练推理环境+AI-AGENT应用平台”四维合一的深度创新解决方案，将AI应用落地的难度从“博士科研级别”降到了“开箱即用级别”，解决了泛金融生产级场景下各类核心系统对于AI落地时环境准备的主要瓶颈问题。
在基础硬件上，“赢时胜AI-AGENT训练/推理一体机”以领先的昇腾AI处理器和LLM技术为核心，搭载8张PCIe训练卡/推理卡，打造了覆盖大模型入门训练环境、推理调优环境、多机多卡训练/推理集群在内的完整配置矩阵。基于昇腾的AI能力，为用户构建全面的领先优势，且可根据实际业务情况进行定制化匹配，奠定整体解决方案的优质基础，使AI应用落地不用再因为“环境”“设施”等试错成本很高的领域徘徊不前，可以让业务和科技将精力聚焦到AI应用落地和创新场景本身，进而加速整个行业的AI应用落地和落在实处。
为了达到“金融级”要求，昇腾不仅通过了WAT、CP、FT等测试精心挑选出满足高性能标准的AI处理器，而且根据“赢时胜AI-AGENT训练/推理一体机”所要求的金融级服务器测试标准，构建了满足认证级别的AI训练/推理功能的一体化专业服务器设备。每台“赢时胜AI-AGENT训练/推理一体机”在出厂前均需经历超过2000+基础服务器硬件测试和2000+昇腾硬件测试以及超过15000+操作系统及应用软件测试。测试还包括温湿度、高低温、随机振动、冲击扫频等复杂环境下的稳定性验证，以及可信操作系统、LLM训练和推理环境、AI-AGENT应用自检等软件层面的深度测试。这些措施确保了每台“赢时胜AI-AGENT训练/推理一体机”在抵达金融客户现场时，能够迅速且稳定地融入到金融级高可用环境中。
同时，在服务器内部设计层面，亦进行了周密的考量。鉴于AI服务器对运行环境的要求远超其他类型服务器，“赢时胜AI-AGENT训练/推理一体机”在元器件选型、沿风向运行路径以及端到端的散热设计方面，均进行了优化，以提升散热效率。此举旨在延长电子元器件的使用寿命，并确保在机房空调出现异常的情况下，服务器仍能稳定运行。此外，该设计还确保了设备在复杂环境下处理高并发、低时延任务时的卓越性能，为持续稳定的运行提供了保障。
在操作系统方面，“赢时胜AI-AGENT应用平台”与麒麟操作系统在昇腾AI处理器进行深度适配和优化，确保使用者同时拥有金融级安全和最领先的性能指数。麒麟操作系统为“赢时胜AI-AGENT训练/推理一体机”上运行的金融类AI-AGENT应用进行了深度优化，提升了系统在高并发处理实时数据等关键任务时的性能和可靠性，使得AI脱离“实验室环境”正式达成“金融级高可用环境”，满足金融机构的业务连续性和高效运营要求。
在AI-AGENT层面，赢时胜的AI团队深度结合昇腾AI处理器架构的特性进行定制调优，使得各类LLM模型能够在执行AI-AGENT任务时，达到甚至超过国际同类AI处理器水平，并且由于软硬一体的深度优化优势，使得“赢时胜AI-AGENT训练/推理一体机”在能够表现出极高的数据处理能力和稳定性同时，相较于其他品牌，实现了突破性提升。以AI领域经常进行的“知识库问答”“舆情阅读”“文档要素抽取”“智能客服”等多个场景为用例，通过定制优化，单节点8卡推理服务器较国内同类AI处理器单节点的token超过5倍，单token处理时延<1ms，远超同业指标。
作为国内金融行业最具代表性的金融科技公司之一，赢时胜专业的金融信息化解决方案、软件产品、技术服务广泛应用于银行、基金、证券等多个领域，服务对象多达400余家，不仅彰显了公司在市场中的强大竞争力，也充分证明了其解决方案在行业内的高度认可和广泛需求；同时公司持续加大在信创与AI技术上的研发投入，旨在通过技术创新为产品赋能，巩固并扩大公司在市场中的领先地位。这既是对现有产品体系的深度挖掘与升级，也是对未来市场需求的精准把握与布局。
当下，金融机构的智能化进程正在从“摸索阶段”走向“关键场景落地阶段”。赢时胜持续加大金融科技领域AI建设投入，汇集伙伴生态力量，为金融机构提供按需定制的智能创新解决方案，从自主创新AI服务器+可信操作系统+大模型训练/推理环境+AI-AGENT应用平台四个维度提升ALL-IN-ONE的金融生产级AI运维能力。
此次推出“自主创新AI服务器+可信操作系统+大模型训练/推理环境+AI-AGENT应用平台”，赢时胜联合昇腾共同致力于软硬件协同创新，打造一系列符合金融行业生产级要求的标杆解决方案，使金融科技在面向高度复杂的AI应用落地过程中，少一些迷茫，多一些聚焦。
在“自主创新AI服务器+可信操作系统+大模型训练/推理环境+AI-AGENT应用平台”的一体化支持当中，赢时胜携手生态伙伴面向金融客户提供一站式的售后服务和技术支持体系，以雄厚的技术实力和完善的支持体系为信托，再现金融生产级兜底支持能力。
展望未来，赢时胜将继续深化与各生态合作伙伴的合作关系，通过共同研发与技术创新，推出更多符合金融行业需求的软硬件集成解决方案，以科技创新促进产业进步。
本文作者可以追加内容哦 !
