通过部分页迁移实现CPU-GPU高效透明的数据通信

摘要：

尽管对集成GPU和下一代互连的研究投入日益增加,但由PCI Express连接的独立GPU仍占据市场的主导地位,CPU和GPU之间的数据通信管理仍在不断发展.最初,程序员显式控制CPU和GPU之间的数据传输.为了简化编程,GPU供应商开发了一种编程模型,为"CPU+GPU"异构系统提供单个虚拟地址空间.此模型中的页迁移机制会自动根据需要在CPU和GPU之间迁移页面.为了满足高性能工作负载的需求,页面大小有增大趋势.受低带宽和高延迟互连的限制,较大的页面迁移延迟时间较长,这可能会影响计算和传输的重叠并导致严重的性能下降.提出了部分页迁移机制,它只迁移页面的所需部分,以缩短迁移延迟并避免页面变大时整页迁移的性能下降.实验表明,当页面大小为2 MB且PCI Express带宽为16 GB/s时,部分页迁移可以显著隐藏整页迁移的性能开销,相比于程序员控制数据传输,整页迁移有平均98.62％倍的减速,而部分页迁移可以实现平均1.29倍的加速.此外,我们测试了页面大小对快表缺失率的影响以及迁移单元大小对性能的影响,使设计人员能够基于这些信息做出决策.

关键词："CPU+GPU"异构系统、数据通信、页迁移

所属期刊栏目：41

分类号：TP392.02(计算技术、计算机技术)

在线出版日期：2019-07-24（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：1168-1175