构筑企业级AI安全护城河：三六零发布大模型安全解决方案

www.163.com 2024-12-18 20:44

12月17日，由360集团牵头发起的大模型安全联盟（以下简称“联盟”）在北京成立。据了解，包括联想、腾讯云、百度智能云、火山引擎、MiniMax、清华大学等监管机构、科研院所、大模型伙伴、算力与基础设施伙伴及安全伙伴等参与了联盟启动仪式。大模型安全联盟汇聚了多元力量，旨在打造资源共享、共创共赢的大模型安全生态集群，共同推动大模型安全标准的制定、安全技术的创新和安全能力的提升，打造大模型安全发展的新范式。

联盟成立仪式上，360展示了其在人工智能与安全领域的最新成果，推出了多款具有重要行业价值的企业级应用新产品。包括大模型全链路安全检测的“智鉴”、内容安全护航的“智盾”、搜索增强利器“智搜”，以及知识管理平台“智能文档云”和情报监测工具“舆情卫士”。这些创新产品全面覆盖了大模型系统安全、内容安全、智能知识管理与情报分析等关键领域，显示了360在大模型安全技术研发与生态建设上的全面布局。

“360智鉴”为大模型系统安全检测平台（AISE），该产品覆盖了从模型训练到推理的全链路安全检测，支持对模型服务的相关组件识别、生态链漏洞扫描和多语言代码审计，确保大模型系统安全。这一体系的核心优势包括具有全链路、多场景、易扩展的特点，支持400多种公开漏洞的检测，覆盖RAG、Agent、prompt等场景的安全性分析，可以快速扩展到记忆、缓存等新的风险场景的安全检测。据悉，360智鉴已成功应用于多个行业，帮助企业在大模型上线前进行全方位的安全评估，显著降低了潜在的安全隐患。

“360智盾”是大模型内容安全护栏系统（AISG），该产品支持大模型输入输出有害内容检测、风险问题安全代答、自动攻防巡检和安全运营。基于大模型与多模态风险内容识别能力，360智盾打造了全流程、多种类、多模态、场景化的内容安全体系，能够全面把控大模型内容安全，支持100多类风险内容的识别过滤，支持文本、音频、图片、视频等多种模态的风险防护，并通过平台定制化场景风控策略，满足不同场景的风控需求。据了解，360智盾已涵盖超过200多种对抗内容防御技术，能够显著降低业务内容风险。

“360智搜”则是一款大模型可信增强（AISO）工具，融合多模态检索与语义理解技术，能够提供精准的搜索结果，并支持基于企业私域数据的知识提炼与总结。其独特之处在于整合多领域精品知识库，实现全网与私域知识的无缝对接，提升信息获取效率。更重要的是，360智搜通过精确的知识整合，帮助大模型缓解幻觉问题，减少虚假或不准确信息，提升大模型的可信度与可靠性，从而为企业提供更安全、更高效的业务支持。

基于360大模型安全系列产品智鉴、智盾、智搜的深度赋能，本次发布会上还推出了“360智能文档云3.0”和“360舆情卫士”两款智能产品。其中，智能文档云是一款专为企业打造的智能知识管理与应用平台，涵盖从数据采集、存储、处理到应用的知识管理全流程。通过深度融合企业内外部数据，该平台能够帮助企业实现知识的“搜、学、写、用”，大幅提升决策效率与业务能力。

360舆情卫士则以AI为核心驱动，针对情报监测与分析提供了一站式解决方案，支持多模态数据处理与深层语义分析，为企业提供关于舆情分析、市场趋势、消费者行为、竞争对手动态、识别潜在的风险和威胁、发现新的业务机会和技术创新、揭示客户的偏好和需求、了解市场格局等关键信息，帮助企业做出基于数据和洞察的明智决策。

作为以“安全+AI”为双主线的科技企业，360不仅凭借自身技术优势推出了多款创新产品，还积极践行行业与社会责任，通过发起大模型安全联盟，将行业伙伴紧密联合在一起，共同推动大模型安全技术的应用普及。联盟旨在通过共享资源、联合研发等形式，打造更加安全、可信的人工智能生态。

在发布会上，360集团创始人周鸿祎多次强调，只有确保大模型的安全性，才能真正推动人工智能在社会经济中的健康发展。为此，360提出了“安全、向善、可信、可控”的四大原则，并在其发布的多款产品中贯彻了这一理念。

据悉，上述360新产品将以SaaS服务和私有化部署两种模式向市场推出，满足不同企业的多样化需求。未来，360将继续通过技术创新与生态建设，为行业树立标杆，也为行业的长期健康发展注入新动能。