近期，中国人工智能产业发展联盟（以下简称“AIIA”）安全治理委员会成果发布会在北京顺利召开，会上重磅发布了2024年首轮内容审核服务系统评测结果。继2023年首轮通过测评后，东方通网络不良信息监测系统再次通过此权威评审。
随着新一代人工智能技术的发展与媒介智能化的加速，生成内容与传播方式呈现多样性、主观性等特征，在网络传播中正在产生着越来越大的影响。内容审核已成为互联网内容治理的关键环节，对于维护网络环境的健康和秩序发挥着至关重要的作用。为进一步推动网络内容治理技术与产业的良性发展，中国信息通信研究院自2019年起致力于深入研究内容审核技术及相关产业，逐步构建了内容审核技术评估标准体系，通过内容巡检平台，实现数据集动态更新，使评估数据与当前审核热点保持一致。截至目前，中国信通院依据相关标准已开展了7批内容审核服务系统评估工作。
东方通网络不良信息监测系统是首批通过该内容审核服务系统评估的产品，能够再次参与并通过此次评估，不仅是基于强大的产品综合性能，还得益于东方通对人工智能等前沿技术的持续研究，以及在网络电信诈骗、内容治理等项目中不断积累的实战经验。
东方通网络不良信息监测系统依托策略运营平台的强大指挥调度能力，深度融合自然语言理解、计算机视觉及先进语音技术，对音频、视频、图像、文本、视频流及文档文件等全维度内容，进行精准识别与分析。系统包含爬虫技术、算法服务、内容采集、不良信息识别、深伪识别、拨测管理、审核管理、标注管理等功能，打造完整的内容安全监测生态，形成安全风险处理管理闭环，并以AI为核心的综合内容审核算法，全面提升谣言、涉黄、涉赌、涉暴、深度伪造等诸多不良信息的监测、识别效率，提升内容风险管控能力。
目前，东方通网络不良信息监测系统已在中国移动内蒙古公司2023年不良信息监测系统升级改造项目、江苏移动算网内容智能监测平台研发项目等众多运营商项目中广泛落地应用，在不良信息的预警、监测、处置等多样化场景中发挥了重要作用，助力维护社会秩序和公共安全与保护个人信息。随着新技术的不断发展与演进，内容安全治理将面临更多未知的挑战与机遇，东方通将不断探索新技术、新场景，积极推动内容安全治理体系的完善，以更加智能、高效、全面的解决方案，守护网络空间的清朗与和谐。
