7月31日,ISC.AI 2024数字安全峰会在北京国家会中心顺利召开。峰会以“打造安全大模型,引领安全行业革命”为主题,呼吁行业以大模型重塑安全体系,守护数字经济稳健发展。大会汇聚了多位院士专家,以及360、华为、微软等国内外企业领袖,深入剖析人工智能技术发展带来的安全挑战与解决方案,共同探索安全大模型驱动数字安全发展新路径。
人工智能安全问题不容忽视
亟需产研携手共探新解法
人工智能技术的广泛应用正推动着各行各业转型升级,同时为安全行业的发展注入了强劲动力。中国工程院院士吴世忠在主题演讲中,从生成式人工智能安全研究的总体态势和技术热点角度进行了深入分析。他表示,由AI技术带来的新型安全问题已成为现实,安全行业将迅速迈进AI驱动的新时代。然而,大模型安全研究可以说刚刚开始。无论是安全研究还是安全产业,都必须紧跟科技进步和应用创新,才能服务好发展,保障好发展。
![](https://gbres.dfcfw.com/Files/iimage/20240731/79315A3095795D93778ED1E3AC3CFC53_w870h580.jpg)
“当前,AI应用系统安全责任与风险严重失衡”,中国工程院院士,国家数字交换系统工程技术研究中心(NDSC)主任邬江兴在主题演讲中强调了当前AI系统面临的窘境。他提出,基于内生安全架构可发现或纠正AI应用系统安全问题,AI应用系统中必须包含必要多样性和相对正确公理的内生安全构造,在不可信的过程中找到相对可信的结果。智能时代需要选择正确的技术路径,实现更安全的AI应用系统。
![](https://gbres.dfcfw.com/Files/iimage/20240731/2C0245CDBACF0BFCF22670FE7D177D38_w940h627.jpg)
寻找“明星场景”
加速安全大模型实践应用
随着人工智能技术的飞速发展,所有行业和产品都在被重塑,安全行业同样面临着一场革命。360集团创始人,ISC大会主席周鸿祎在《打造安全大模型,引领安全行业革命》的主题演讲中指出,用AI重塑安全的本质是让安全做到“自动驾驶”,360首推安全大模型,对购买360标准产品的用户免费提供大模型标准能力,实现大模型普惠和安全行业新质生产力变革。
![](https://gbres.dfcfw.com/Files/iimage/20240731/DFD18741C4BE54659F6EE8A607D300B8_w895h597.jpg)
作为国内唯一兼具数字安全能力和AI技术双重优势的厂商,360基于深厚的全栈大模型底层技术、世界上规模最大的安全知识库、亚洲最大的高级安全专家团队和多领域全覆盖强实战的安全场景能力,打造了国内首个安全大模型“360安全大模型”,并在终端、安全运营、安全服务等诸多业务场景落地实践。目前360全线安全产品已集成安全大模型能力,并对所有购买360标准产品的用户免费提供大模型标准能力。
当前,人工智能跨越式发展,技术创新加速迭代,业界主流模型从千亿稠密到万亿稀疏,并逐步走向百万级超长序列和多模态。华为副总裁,ISP与互联网系统部总裁岳坤在演讲中表示,如何在智能时代的早期保证相应的服务能力和服务水平,将是首批的智能应用面临的核心挑战之一。他强调,提升安全水平是保障智能化服务能力和服务水平的关键,而原生是人工智能时代最大的安全。华为今年发布了昇腾原生计划,将投入专项资金,以技术+商业驱动生态繁荣,为客户打造更加匹配场景需求的方案,加速AI模型的应用。
![](https://gbres.dfcfw.com/Files/iimage/20240731/EE4DFD9FE1664B3F79A4CE57AE08A959_w1016h678.jpg)
平衡AI治理与赋能
共话“安全+AI”融合发展新路径
随着生成式人工智能驱动AI发展进入新阶段,AI治理随之也变成了一个突出问题。先进计算与关键软件(信创)海河实验室主任,中国新一代人工智能发展战略研究院执行院长龚克在演讲中指出,AI治理应遵循有利发展、为人服务和基于伦理三点原则,要清楚认识到技术自身的不足,以及人对于AI技术的恶用、滥用、误用等风险。他强调,防止AI“作恶”要建立明确的伦理标准、提高透明度和问责制、完善法律法规、内置安全机制等。此外,要坚持开放创新,在信创基础上发展安全可控的AI生态。
![](https://gbres.dfcfw.com/Files/iimage/20240731/054A11A508843FFDE3F3CAB430BC7D72_w1030h687.jpg)
随后,在由IDC中国副总裁钟振山主持的“安全大模型引领数字安全新升级”圆桌对话上,教育部高等学校网络空间安全专业教学指导委员会秘书长封化民,360数字安全集团副总裁余凯,统信软件副总裁万慧星,微软大中华区安全与合规业务产品市场负责人李亮,围绕大模型技术对于安全行业的影响、大模型在安全领域应用的主要优势和障碍以及小模型的应用价值等话题,发表了各自观点。
![](https://gbres.dfcfw.com/Files/iimage/20240731/0EAFF107B85166823288C9C4756E0B9C_w1075h660.jpg)
一直以来,ISC致力于搭建“政产学研用”的国际交流平台。ISC.AI 2024数字安全峰会上,来自国内外的专家学者和企业精英共同探讨了安全与大模型技术融合的前沿议题,不仅为数字安全创新发展提供了宝贵的启示,更推动了数字安全技术的跨越式发展,引领我们迈向一个更加智能、安全、和谐的数字新时代。
本文作者可以追加内容哦 !