一种基于Inter-warp异构性的缓存管理与内存调度机制

摘要：

在GPU中,一个warp内的所有线程在锁步中执行相同的指令.某些线程的内存请求可以得到快速处理,而其余请求会经历较长时间.在最慢的请求完成之前,warp不能执行下一条指令,导致内存发散.对GPU中warp间的异构性进行了研究,实现并优化了一种基于inter-warp异构性的缓存管理机制和内存调度策略,以减少内存发散和缓存排队延迟的负面影响.根据缓存命中率将warp分类,以驱动后面的3个组件:(1)基于warp类型的缓存旁路技术组件,使低缓存利用率的warp进入旁路,不访问L2缓存;(2)基于warp类型的缓存插入/提升策略组件,防止来自高缓存利用率warp的数据被过早清除;(3)基于warp类型的内存控制器组件,优先处理从高缓存利用率的warp接收到的请求,并优先处理来自相同warp的请求.基于warp间异构性的缓存管理和内存调度机制在8种不同的GPGPU应用中,与基准GPU相比,平均加速18.0％.

关键词：缓存管理、内存调度、内存发散、线程束

所属期刊栏目：41

分类号：TP303(计算技术、计算机技术)

资助基金：国家自然科学基金61202076;北京市自然科学基金4192007

在线出版日期：2019-06-10（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：788-795