近日,在中国信息通信研究院(以下简称“信通院”)组织的首批“面向大模型的增强型可信执行环境基础能力专项测试”中,蚂蚁数科顺利完成全部测试内容,成为首批通过此项测评的厂商。据了解,这也是信通院今年首次开设的全新资质测评方向,首批共有3家厂商通过。
《面向大模型训练与推理数据保护的可信执行环境技术要求》是信通院云计算与大数据研究所依托中国通信标准化协会大数据技术标准推进委员会(CCSA TC601),联合30余家企业的专家共同编制,旨在为可信执行环境产品/集群在面向大模型场景时的研发、测试、评估和验收提供参考和指引。
据此标准形成的测试方法共覆盖数据工程、模型训练支持、模型推理支持、硬件加速、安全要求五大能力域,包含数据增强、模型管理、环境安全和数据安全等16个子能力域,共计57个测试项。
![](https://gbres.dfcfw.com/Files/iimage/20240628/CA6CBB34A472DBDD3E86A0EAE9831045_w960h474.png)
当前,通用人工智能正在加速从“以模型为中心”向“以数据为中心”转变,高质量、大规模数据集愈加重要。然而,高质量数据集普遍以孤岛形式存在,限制了大模型在产业应用中落地。为实现可信的多方联合训练与推理,以可信执行环境、联邦学习为代表的隐私计算是可行的技术解法。
大模型在训练和推理过程中,都可能会导致用户个人隐私及企业核心数据等重要敏感信息泄露,对大模型落地应用的安全性提出了更高要求。蚂蚁数科自主研发的摩斯安全计算平台通过差分隐私、联邦大模型拆分和跨域微调、模型混淆、可信硬件等多种隐私计算技术相结合的独创性方案,能在各方原始数据不出域的情况下,实现大模型的数据输入、微调、推理全链路数据安全和模型隐私保护。
据了解,在软件层面,摩斯大模型隐私保护产品,在原有大模型使用链路上叠加隐私计算能力,进行数据和模型双重保护,并支持大模型隐私微调和安全推理,可实现微调精度损失可控、隐私推理性能提升、密文量有效提升、算力可扩展,并支持云部署、一体机、自有算力等多种部署方式。在硬件层面,结合适配于可信执行环境的加速硬件,可实现隐私推理性能和密文量进一步提升。并主要基于Intel SGX和TDX、AMD SEV、海光CSV、NVIDIA CC等可信计算硬件及蚂蚁自研的机密计算底座构建起隐私计算大模型系统,满足多场景中的安全性需求。
公开信息显示,蚂蚁数科持续深耕区块链、隐私计算及AI技术,其持有的隐私计算专利数连续多年排名全球第一。在全球顶尖赛事iDASH国际隐私计算大赛中,蚂蚁数科累计获得六项冠军,覆盖多方安全计算、机密计算、联邦学习等赛道。据IDC发布的《2022中国隐私计算平台市场份额》报告,蚂蚁数科以36.9%的市场份额位居第一。
本文作者可以追加内容哦 !