在人工智能技术不断突破的今天，大模型应用正成为推动智慧城市发展的关键因素。南威软件集团致力于探索大模型技术在多领域的应用，为丰富集团技术文化、促进知识交流、激发创新思维，并共同探讨技术发展趋势以及解决实际工作中的技术难题，集团技术委员会于9月27日邀请人工智能与数据服务业务群自然语言部算法架构师张旭东作为主讲嘉宾，举办一场基于华为AI芯片的大模型应用研发技术分享会。此次分享会汇聚集团各业务群技术人才等线上线下近百余人，共同参与探讨技术发展的新趋势，携手解决实际工作中的技术挑战，推动集团技术实力迈向新高度。
会上，张旭东首先对AI芯片架构进行了精炼的介绍，着重强调了GPU在处理多任务并行计算方面的优势。接着，他通过对比NVIDIA与华为昇腾AI芯片的性能参数，利用图表直观地展示了两者的差异，并结合实际案例，讲解了如何根据大模型训练需求选择合适的硬件配置并如何提高芯片的算力利用率。随后，他详细阐述了华为软硬件的技术栈，其中包括CANN、Mindspore训练框架、MindIE推理引擎以MindInsight可视化开发工具等的原理和使用方法，深入浅出地分析了基于华为AI芯片的底层架构和开发流程。
张旭东作主题分享
讨论环节中，张旭东针对国产算力的需求，分享了华为昇腾AI芯片的优势，并提供了基于300IDuo卡的推理服务在智能阅卷系统中的应用案例，充分展示了华为昇腾AI芯片在实际应用中的高效性能。目前南威软件多款AI相关产品已深度融合华为昇腾AI芯片平台，包括南威白泽大模型的训练平台、南威白泽启元AI开发平台、南威白泽文墨智能写作平台、南威白泽对话管理平台、南威凌云智搜、南威獬豸AI阅卷系统、南威知识服务平台等，结合华为昇腾AI芯片强大的算力和技术能力，服务于算法落地的应用中，以更好地满足客户对高并发和低延迟的需求。
-END-
