$开普云(SH688228)$   

接收到特定输入时触发恶意行为。

其他还包括：多轮对话攻击、梯度攻击、未授权访问、模型窃取等多种攻击手段。 

针对上述难题，开普云推出企业级大模型AI安全应用方案，保障大模型应用全流程安全可控，重点面向央国企、政府部门和大型企业集团。

该方案支持用户在大模型应用中的安全、可控、可信，消除大模型幻觉影响，满足企业级应用场景的安全性、准确性和严肃性标准。

开普云企业级大模型AI安全应用解决方案，从训练阶段到推理应用，全流程保障大模型应用安全。

在企业专有大模型训练阶段

对训练数据进行安全风控，有效防范训练阶段的非法语料对大模型引入风险；

在构建企业AI应用阶段

对大模型挂载的知识图谱、向量数据库、RAG等组件的原始数据进行严密安全审核，有效防范外源性数据或知识所产生的大模型应用风险；

在使用过程中的AI应用推理服务阶段

对用户输入内容和大模型输出内容进行实时安全风控，防范恶意用户进行恶意引导和风险注入，并在大模型应用输出内容或服务的环节进行安全风控，确保大模型应用最终环节的安全可控。

同时，该方案融合了开普云AI安全智能审查引擎模块，嵌入大模型应用流程核心环节，对于企业原有系统和对外输出，全面进行内容安全检查和信息保密审查，确保大模型和智能体内容生成安全可信，企业商业数据不泄密。

开普云企业级大模型AI安全应用解决方案全面支持企业级用户在安全环境下部署私有化大模型智能体应用，提供安全可控AI应用构建环境，为企业AI智能化升级提供安全保障。