$天融信(SZ002212)$  

首个智能体安全协作组织成立 华为蚂蚁等企业单位加入

京报网

2024-12-19 15:24北京日报官网官方账号

关注

12月19日，国内首个智能体安全生态协作组织—“IIFAA智能体可信互连工作组”在北京宣布成立，该工作组致力于推动行业共同制定跨智能体交互的相关安全技术规范，以应对智能体高速发展所带来的安全协作挑战，共建开放、合作、共赢的智能体生态。中国信通院、荣耀、OPPO、小米、华为、智谱、字节、阿里、蚂蚁、京东、中国移动、高通等二十余家头部科技企业和单位成为工作组首批成员。

近年来，AI智能体生态搭建成为赛道内各玩家的重要战略布局，手机终端、大模型及APP厂商纷纷推出“AI管家”等智能体产品，其中，典型代表包括以苹果、荣耀、vivo等为代表推出的手机厂商系统智能体，以蚂蚁集团推出的AI生活管家“支小宝”、智谱AI推出的AutoGLM等为代表的AI智能体产品。

通过共享感知数据和任务协调优化实现智能响应，多个智能体协同工作，可以为用户提供更丰富的功能体验。比如，用户通过手机上的语音助手说“我想听周杰伦的歌，顺便帮我点个附近的比萨外卖”，语音助手智能体识别用户指令后，立即调用音乐播放智能体和外卖智能体。

“对用户而言，一条指令，往往会涉及多个APP智能体产品，而智能体之间的打通很难，如何在端上实现多智能体间的可信互连，成为智能体发展中至关重要的问题。”信通院泰尔终端实验室信息安全部副主任傅山说，目前行业还处于初期阶段，新技术在给用户带来便利的同时，也隐藏着安全风险。

IIFAA联盟秘书长郑亮指出，智能体之间的服务互联最终要完成用户指令，这中间涉及意图数据的共享传递和复杂任务拆解等必经流程，这些流程在没有规范约束的情况下，就像开车没有红绿灯，非常容易滋生乱象。因此，智能体之间需要开放协作，也需要共建安全互信的行业规范。

在此背景下，IIFAA互联网可信认证联盟发起成立“IIFAA智能体可信互连工作组”，目前工作组成员由手机终端厂商、硬件厂商、应用开发商以及相关监管机构等成员组成。

“接下来，工作组将围绕智能体可信认证、服务可信调用、数据可信流转、用户隐私与权益保护等方向，建设智能体可信互连行业规范，推动行业安全、健康发展。”工作组技术总监张璇介绍。