中科金财在算力方面的布局主要包括以下几个方面:
1. 私有化算力中心建设:中科金财可以根据客户需求,在数据中心内部环境进行专属规划,建设私有化GPU算力平台,确保企业核心资产和关键工作负载的安全隔离。
2. 云算力部署:中科金财与多家云服务合作伙伴合作,包括微软云Azure、阿里云、腾讯云、华为云等,采用云计算模式为客户提供算力服务,有利于快速部署与调试AI业务。
3. 自建算力中心:中科金财正在积极推进自建国内核心算力中心的规划与建设,通过与合作伙伴的战略合作及联合自主开发,逐步完善国内自有GPU算力的布局,建成自有算力中心,为公司更多AI产品的落地应用提供算力基础设施的保障。
4. 算力中心机房改造:中科金财充分利用多年积累的系统集成经验,深入布局AI智算中心业务,提出高效的优化及改造方案,利用先进的液冷技术提升数据中心的制冷系统,利用InfiniBand网络技术提升多机多卡训练效率,目标是以较低的成本将传统数据中心升级为AI智算中心,支持大语言模型多机多卡分布式训练等多种人工智能业务场景。
5. 算力调优服务:中科金财为用户提供从系统、网络、存储、框架等方面的调优服务、自动化调优工具及基础软件生态建设,包括但不限于ROCm、deepspeed、Megatron、Colossal-AI、mindspore、paddlepaddle、PyTorch、TensorFlow、TensorRT、modelscope基础软件框架,及aiacc-llm、LMDeploy、Medusa、vLLM、fastllm、AOE调优工具,Cuda算子底层调优服务等。
6. 算力租赁和运营:中科金财通过其全资子公司中科智算有限责任公司主营算力租赁、算力运营业务,以及行业和企业垂直大模型的定制开发服务、AI应用生态服务等AGI业务。
7. 技术研发与投入:中科金财持续加强在AGI的工程、算法及相关应用的研发,推动人工智能技术在更多垂类领域的深度应用,为用户提供更智能的产品和服务。
这些布局显示了中科金财在算力领域的全面和深入的投入,旨在构建一个强大的算力基础设施,以支持公司在人工智能技术领域的进一步发展和应用。
本文作者可以追加内容哦 !