专利摘要显示,本申请提供了一种神经网络模型训练处理的电子设备、方法和介质,中央处理单元配置成对神经网络模型训练中的中间张量进行存储控制:对于生成的第一中间张量,确定人工智能处理单元的存储器的当前存储使用率是否超过第一阈值,在确定超过第一阈值的情况下,将第一中间张量从人工智能处理单元的存储器转存至中央处理单元的存储器;以及在后向计算中使用第一中间张量进行计算之前,判断第一中间张量的存储位置,在确定存储位置为中央处理单元的存储器的情况下,将第一中间张量从中央处理单元的存储器取回至人工智能处理单元的存储器,以用于后向计算。本申请能够根据人工智能处理单元的存储占用情况动态地将中间张量卸载至中央处理单元的存储器。
追加内容
本文作者可以追加内容哦 !