返回
Nsight Python: A Python-First Profiling Toolkit for Seamless GPU Kernel Analysis (Tool)
DOI:10.1145/3771775.3786273.png)
摘要
En 中文
Python DSLs在开发内核中的普及已使GPU编程民主化。尽管内核开发现已原生支持Python,但性能分析与优化仍依赖外部工具和碎片化工作流程。我们介绍了Nsight Python,这是一个Python分析工具包,通过将GPU内核的性能分析引入Python生态系统来弥合这一差距。Nsight Python与框架无关,并通过简单的装饰器和上下文管理器与任何Python框架无缝协作,用于标记代码区域进行分析。该工具自动处理性能测量、数据收集和跨多个配置的结果聚合。主要创新包括:(1) 原生Python接口,使GPU内核分析可直接在现有Python工作流程中执行;(2) 基于配置的执行模型,将测量指标与输入参数关联;(3) 访问数千个核心指标,并通过参数关联实现自定义派生和相对指标计算;(4) 内置热管理功能,防止批处理分析期间GPU降频;(5) 结构化可定制可视化,基于参数角色自动生成图表。借助Nsight Python,从实现到迭代优化与分析的整个内核开发过程现已真正原生支持Python,无需外部分析器或中断工作流程即可提供详细见解。
Keyword:
GPU profiling
performance analysis
Python
Nsight Compute
automation
visualization

