通过交互式图表展示张量并行(TP)、数据并行(DP)和流水线并行(PP)的性能指标
将单个张量操作拆分到多个设备上并行计算
将数据拆分到多个设备上,每个设备有完整的模型副本
将模型的不同层分配到不同的设备上,形成处理流水线