- 解决方案构成:提供集高性能模组、AI工具链、高性能推理引擎、海量模型、支持与服务一体化的端侧AI解决方案。
- 核心优势:具备海量端侧AI模型及行业端侧模型,可将TensorFlow、PyTorch等机器学习和神经网络的模型进行压缩,并转换为适合端侧部署的最优模型。支持Android、Linux、Ubuntu等系统,实现跨芯片平台、跨操作系统的端侧高性能推理与部署。
- 功能特点:拥有完整AI工具链,可进行数据标注、模型训练、模型微调。针对模型移植,提供模型转换、模型量化和算子替换等能力。还提供包含基准测试、性能监控、性能分析等评测服务。高性能推理引擎支持C++/Python/Java等多种编程语言接口,通过异构调度、硬件加速等策略,可最大化发挥AI模组性能,提升推理速度,降低功耗。
- 模型仓库:提供一套全面、丰富的模型仓,包含机器视觉、听觉、多模态、大语言模型以及行业端侧模型等海量模型,可助力行业终端实现目标检测、语义分割、对话问答、语音识别等功能。
追加内容
本文作者可以追加内容哦 !