CNIPA.AI
검색으로 돌아가기
기록

一种基于缓存模式动态切换的AI计算加速方法及系统

발명유효
10청구항 · 2 독립항
§ Ⅰ

개요

IPC 분류

G06F 12/0877 (2016.01)G06F 12/0897 (2016.01)G06F 12/02 (2006.01)

本发明公开了一种基于缓存模式动态切换的AI计算加速方法及系统,所述方法包括:接收AI计算加速请求后,确定最后一级缓存中待切换的目标缓存块;基于物理地址对其进行快速刷新以保障一致性;将其标记为AI计算模式并在分配策略中屏蔽;利用其中集成的存储阵列与向量运算单元执行存内计算;任务完成后清除标记并恢复其可用状态。所述系统包括缓存切换控制器、矩阵乘法调度器、数据预处理模块、缓存隔离模块和指令接口及软件调度单元。本发明通过复用最后一级缓存并动态切换其工作模式,在保证系统稳定性的同时高效完成AI计算,显著提升芯片单位面积算力。