在科技日新月异的今天
AI作为引领未来的战略性技术
正加速驱动新一轮科技革命和产业变革
从文本、语音到图像、视频
多模态AI不仅重塑了人机交互的边界
更孕育出全新的“智能体”形态
AI日渐成为构建万物互联世界的关键一环
如何确保AI技术安全、可靠、可控
值得各界持续关注、协同共治、防范化解
近日，《人民日报》学术版聚焦“深化人工智能安全监管”话题，整版刊登了三位知名学者的见解，引发热议。在刚刚结束的2024年世界互联网大会乌镇峰会上，人工智能安全、风险问题再次受到广泛关注。
作为网络安全头部企业，天融信始终认为，AI技术发展和其他新兴技术一样，也是一把“双刃剑”。在推动AI技术创新的过程中，安全始终是最根本的保障。
AI安全风险和挑战日益严峻
未雨绸缪势在必行
今年是中国全功能接入国际互联网30周年，AI成为中国互联网发展的新引擎。无论是智能制造、智能驾驶，还是智慧医疗、智慧城市，AI技术的广泛应用为经济社会带来了巨大的变革。然而，随着AI应用场景日渐丰富，产业生态持续完善，基于AI的机器学习、通用大模型、智能体、具身智能等融入互联网，技术复杂性和依赖性不断增加，带来的安全风险也日益突出，必须提前布局安全对策。
对抗样本和多模态攻击
挑战描述：利用图像、声音、文本等多种形式的数据组合，通过在数据中添加干扰，精心设计复杂的对抗性样本，诱导AI系统做出错误判断。
应对策略：以先进的数据增强和对抗训练技术为盾，增强AI模型的鲁棒性，让模型学会更好地抵御对抗性攻击和异常输入，守护多模态安全。
模型盗用和逆向工程
挑战描述：黑客利用逆向工程技术，窃取AI模型的核心参数，构建相似系统以绕过安全检测，利用模型输出结果等反向推导出客户隐私数据。
应对策略：采用加密技术为AI模型参数穿上“隐身衣”，同时实施严格的访问控制策略，限制只有经过授权的人员才能访问和修改AI系统模型。
数据与隐私泄露
挑战描述：人工智能算法和模型依赖于大量训练数据，一旦发生隐私泄露，犯罪分子可以通过声音仿真、AI换脸等手段实施诈骗。
应对策略：运用差分隐私技术，在保护客户隐私的同时，确保数据能够用于训练高质量的AI模型，实现安全与效率的双重保障。
法律与伦理困境
挑战描述：AI系统模糊了物理现实、数字和个人的界限，由于其决策过程缺乏透明度，导致责任归属不清，引发法律与伦理争议。
应对策略：通过可解释性AI技术，提高AI系统的透明度，让用户能够理解AI决策背后的逻辑，从而增强系统的可信度和合规性。
构建安全体系框架
护航AI系统全生命周期安全
为应对日益复杂的AI安全风险，需要构建系统性、全局化、多维度的安全体系框架。凭借在“AI+安全”领域十余年的行业经验，天融信基于对AI安全风险的深入研究，构建以安全可靠、公平可信、透明可解释、数据隐私保护和溯源审计为核心的人工智能安全体系框架，围绕人工智能系统从开发、部署到应用的全生命周期，全方位护航AI的安全应用和健康发展。
监督管理
遵循《生成式人工智能服务管理暂行办法》《生成式人工智能服务安全基本要求》《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》等法规政策和标准规范，确保AI技术的开发与应用始终合法合规。通过国家层面的政策法规与企业层面的管理制度，为AI安全措施的有效实施提供坚实保障。
技术防护
采用多层次AI安全技术，全面抵御各类安全风险，具体包括：利用加密技术和访问控制策略，防止数据泄露和滥用；依赖加密算法、模型防篡改等技术，确保模型在训练和推理过程中的安全性和可靠性；通过严格的权限管理和访问控制，防止未经授权的访问和操作；通过安全性审查和代码审查，确保AI框架本身不被恶意利用或攻击；通过硬件、软件、网络等多方面安全防护措施，确保系统安全稳定运行。
运营保障
重视AI开发安全、AI运行安全和AI供应链安全，全方位保障AI系统全生命周期安全，具体措施包括：关注代码审查和安全测试，通过持续集成和部署流程，有效防止安全漏洞和缺陷的产生；通过实时监控、日志分析和异常检测等手段，及时发现和处理安全事件；通过严格的供应链管理、供应商评估和合规性审查，确保供应链中的每个环节都符合安全标准。此外，AI模型安全能力成熟度不断提升，将助力企业持续优化安全运营能力。
合规测评
注重合规管控，通过多维度措施确保AI系统在不同阶段、不同层次的合规性。通过制定详细的合规政策和管理体系，确保AI系统的设计和实施符合相关法律法规和行业标准的要求。同时，通过渗透测试、代码审计和风险评估等评估手段，对AI系统进行科学、准确的安全评估，帮助企业及时发现并消除潜在安全隐患。
推进“AI+安全”落地实践
让日益“智能”的网络攻击无处遁形
基于人工智能安全体系框架，天融信打造出完整的企业级“AI+安全”能力体系模型，为客户提供全系统、全方位、全周期的AI安全解决方案。方案涵盖威胁检测、安全运营、知识问答以及算力管理等多个维度，集智能检测、响应和学习于一体，支持随时启动自动防御和反击程序，并通过自我学习成为客户的得力助手，辅助安全决策和行动，不断提升安全防护的智能化水平。
火眼金睛：智能检测与响应
利用深度学习算法构建智能检测引擎，如同孙悟空的火眼金睛一般，通过实时监控网络流量，快速识别恶意软件、异常登录等安全事件。在某能源公司的数据中心，天融信利用基于AI的样本检测、情报抽取与分析技术能力，协助客户在第一时间发现并阻止潜在威胁，有效避免了安全事件的发生。
自动反击：安全编排自动化与响应
针对复杂的安全事件处置流程，天融信开发了融入AI的SOAR方案，可实现自动化安全运营和智能化模型编排，通过多个安全工具的无缝集成与标准化、自动化响应，助力安全分析师从海量告警中精准筛选出关键问题，从而提高工作效率。在一次实际应用中，一家大型零售商在促销期间遭遇DDoS攻击，天融信利用SOAR方案协助客户迅速定位攻击源并采取有效措施，短短几分钟便恢复了网站服务。
智能学习：用户和实体行为分析
基于用户和实体行为分析(UEBA)技术，可以利用先进的AI算法，结合机器学习、建模分析、画像检测等技术构建实体画像，通过建立每个用户和实体的行为安全基线，学习正常用户操作模式，智能识别攻击行为，及时发现并预警潜在内部威胁。某运营商信息系统部署了融合AI和UEBA技术的数据安全监测分析平台，敏锐捕捉到了某员工账户的异常访问行为，最终揭露了一起内部人员窃取敏感信息的恶性事件。
辅助运营：天融信天问大模型
天融信天问大模型集成了海量的安全数据和专业知识，具备知识生成和逻辑推理能力，同时运用深度学习和自然语言处理技术，打造安全智能体，为安全管理者提供实时、精准的决策支持。当检测到异常流量或潜在威胁时，天融信天问大模型能够迅速调用历史数据，进行深度分析，并推荐最佳应对策略。
TOPSEC
未来，网络安全建设将步入“人+机器”紧密协作的新纪元。在天融信看来，将安全技术与个性化需求深度融合，能够让AI安全日渐成为大众日常生活的一部分。想象一下，当你沉浸于工作中时，收到一封可疑邮件，你的手机立即温馨提醒：“请注意！这封邮件可能包含诈骗信息。”这样的场景已经不再遥不可及，而是天融信正在逐步实现的愿景。
AI网络安全不是单打独斗的竞技场，而是需要全体参与者并肩作战的集体战斗。面对这一充满挑战与机遇的行业新风口，天融信愿与业界同仁携手攻坚，共同构建以安全为核心的AI创新发展新格局，推动AI技术更广泛、更深远地应用于社会生活的各个层面，为我国数字经济高质量发展提供强有力的支撑。
本文作者可以追加内容哦 !
