基于利用混洗的数据布局的去量化的神经网络中的张量乘法

深度神经网络（DNN）中的张量乘法运算可以基于利用经混洗的数据布局的权重去量化来执行。张量乘法运算可以具有权重张量，该权重张量包括浮点型数据点中的权重。权重张量可以被量化以生成具有比权重张量更小的存储大小的整型权重块。整型权重张量可以被划分为权重块。可以基于预定的组大小将权重块进一步划分为权重组。权重组可以通过位右移来封装。可以通过对权重组中的数据元素进行混洗来改变封装的权重组中的数据布局。经封装和混洗的权重组可以被去量化以产生浮点型权重块。张量乘法运算可以对浮点型权重块执行。