$昆仑万维(SZ300418)$ 天工机器人是由北京人形机器人创新中心研发的,昆仑万维为其提供了大模型软件技术。

2023年9月初,昆仑万维天工大模型团队推出了自研多模态大模型Skywork-MM v1。该模型由一个视觉编码器、一个可学习采样器模块和一个经LoRA调优后的大语言模型组成。昆仑万维团队从特定SFT数据集训练、知识定义与诱导、模型结构、训练方式等领域进行创新,并推出自研Mental Notes技术,模拟人类认知过程,显著降低了多模态大模型“幻觉”问题,增强了中文的指令追随能力、中文相关场景的识别能力,降低了文化偏见对于多模态理解造成的限制。同时,昆仑万维天工大模型团队还公开了名为《Empirical Study Towards Building An Effective Multi-Modal Large Language Model》的技术论文。

追加内容

本文作者可以追加内容哦 !