神经网络编译方法、装置、设备、存储介质及程序产品

专利主权项内容

1.一种神经网络在线编译方法，其特征在于，包括：获取神经网络对应的中间表示信息，所述中间表示信息是预先对所述神经网络进行层分组，并根据分组结果确定的；根据所述中间表示信息确定所述神经网络的分组信息；根据所述分组信息对所述神经网络的分组进行在线编译；所述分组信息包括输入数据张量信息、输出数据张量信息、所述分组处理数据的预设张量信息；所述根据所述分组信息对所述神经网络的分组进行在线编译，包括：根据所述分组信息，确定所述分组的输入数据张量信息、预设张量信息；根据所述预设张量信息、所述输入数据张量信息对所述分组的输入数据进行分割得到分割数据；根据所述分割数据对所述分组进行在线编译；所述输入数据张量信息包括输入数据标识；所述预设张量信息包括预设张量维度；所述根据所述预设张量信息、所述输入数据张量信息对所述分组的输入数据进行分割得到分割数据，包括：根据所述输入数据标识确定所述分组的输入数据；根据所述预设张量维度对所述输入数据进行分割得到分割数据，所述分割数据的维度小于或等于所述预设张量维度；所述预设张量维度是在对所述神经网络进行层分组时，根据处理器内部存储单元所能容纳的数据确定的。