Scidown文献预览系统!
图形神经网络gpu训练与推理性能瓶颈的实证分析( Empirical Analysis of Performance Bottlenecks in Graph Neural Network Training and Inference with GPUs )
Z Wang Y Wang C Yuan R Gu Y Huang
图神经网络(GNN)在许多图分析任务中以其最先进的性能成为一个热门的研究领域。最近出现了各种各样的图神经网络库。它们为GNNs的开发提供了便利,但它们在大型数据集上的性能瓶颈还没有得到很好的研究。在本工作中,我们对GNN训练和推理中的性能瓶颈进行了实证分析。一个GNN层可以分解为两个部分:顶点计算部分和边缘计算部分。根据它们的计算复杂度,选取了四种具有代表性的GNN(GCN、GGNN、GAT、GaAN)进行评估。我们分解了它们的运行时间和内存使用情况,评估了超参数的影响,并评估了采样技术的效率。用PyTorch几何模型进行的实验评估表明,与边缘相关的计算是大多数GNN的性能瓶颈,支配着训练/推理时间和内存占用。采样技术是GNN在GPU上训练和推理的关键技术,但目前的实现在采样和数据传输方面仍存在大量的开销。
『Sci-Hub|Scidown』怎么用?来看看教程吧!

支持模式 1.支持DOI号 2.支持英文文献全名搜索 3.支持参考文献搜索 4.知网文献(暂时关闭)


安卓手机、电脑用户,您可以在QQ浏览器里输入 www.scidown.cn 打开scidown解析,就可以解析、下载了!(注意是文献的DOI号)


苹果手机用户,您需要先在App Store里搜索并下载 Documents by Readdle 这个APP,在APP首页,左划右下角的指南针图标打开APP内置浏览器,在浏览器里输入 www.scidown.cn 打开scidown解析,就可以解析、下载了!


如出现BUG?赶快加入【Scidown互助交流群】反馈吧:729083885【点击一键加群】