面向低位宽量化大语言模型的压缩编码处理器、装置和设备

本申请涉及一种面向低位宽量化大语言模型的压缩编码处理器、装置和设备。所述处理器执行如下步骤：获取目标语言模型中的原始权重张量；采用与所述目标语言模型的类型对应的压缩编码方式，对所述原始权重张量进行压缩编码处理，得到压缩编码后的目标权重张量；其中，所述压缩编码方式包括块级位、定长块级中的至少一种。采用本处理器能够提高大语言模型存储利用率。