2025大模型训练性能瓶颈定位流程案例-华为

MindStudio7.0.0大模型训练性能瓶颈定位流程案例文档版本01发布日期2025-01-13华为技术有限公司 版权所有 © 华为技术有限公司 2025。 保留一切权利。非经本公司书面许可，任何单位和个人不得擅自摘抄、复制本文档内容的部分或全部，并不得以任何形式传播。 商标声明和其他华为商标均为华为技术有限公司的商标。本文档提及的其他所有商标或注册商标，由各自的所有人拥有。 注意您购买的产品、服务或特性等应受华为公司商业合同和条款的约束，本文档中描述的全部或部分产品、服务或特性可能不在您的购买或使用范围之内。除非合同另有约定，华为公司对本文档内容不做任何明示或暗示的声明或保证。由于产品版本升级或其他原因，本文档内容会不定期进行更新。除非另有约定，本文档仅作为使用指导，本文档中的所有陈述、信息和建议不构成任何明示或暗示的担保。 文档版本 01 (2025-01-13)版权所有 © 华为技术有限公司i 安全声明 产品生命周期政策华为公司对产品生命周期的规定以“产品生命周期终止政策”为准，该政策的详细内容请参见如下网址：https://support.huawei.com/ecolumnsweb/zh/warranty-policy 漏洞处理流程华为公司对产品漏洞管理的规定以“漏洞处理流程”为准，该流程的详细内容请参见如下网址：https://www.huawei.com/cn/psirt/vul-response-process如企业客户须获取漏洞信息，请参见如下网址：https://securitybulletin.huawei.com/enterprise/cn/security-advisory 华为初始证书权责说明华为公司对随设备出厂的初始数字证书，发布了“华为设备初始数字证书权责说明”，该说明的详细内容请参见如下网址：https://support.huawei.com/enterprise/zh/bulletins-service/ENEWS2000015766 华为企业业务最终用户许可协议(EULA)本最终用户许可协议是最终用户（个人、公司或其他任何实体）与华为公司就华为软件的使用所缔结的协议。最终用户对华为软件的使用受本协议约束，该协议的详细内容请参见如下网址：https://e.huawei.com/cn/about/eula 产品资料生命周期策略华为公司针对随产品版本发布的售后客户资料（产品资料），发布了“产品资料生命周期策略”，该策略的详细内容请参见如下网址：https://support.huawei.com/enterprise/zh/bulletins-website/ENEWS2000017760 文档版本 01 (2025-01-13)版权所有 © 华为技术有限公司ii目 录1 常见性能问题场景...................................................................................................................... 12 问题定位方法.............................................................................................................................. 22.1 性能问题定位流程.................................................................................................................................................................... 22.2 Ascend PyTorch Profiler 采集性能数据..............................................................................................................................32.3 Mindstudio Insight 定位........................................................................................................................................................ 43 性能调优案例.............................................................................................................................. 93.1 案例描述......................................................................................................................................................................................93.2 MindStudio Insight 分析定位............................................................................................................................................... 93.3 mstt advisor 辅助定位..........................................................................................................................................................11MindStudio大模型训练性能瓶颈定位流程案例目 录文档版本 01 (2025-01-13)版权所有 © 华为技术有限公司iii1 常见性能问题场景大模型从外部设备迁移到昇腾设备，并在昇腾设备上训练的过程中，可能会出现性能问题。常见的两大性能问题场景是开箱性能优化场景和性能长跑劣化场景。●开箱性能优化：主要是用户在昇腾平台使用模型时，发现性能差，直接进行性能层面的优化。●性能长跑劣化：一般是用户在训练过程中，由于不可预知的引入，导致模型出现了一些性能劣化的问题，需要定位性能劣化的原因，并解决问题。图 1-1 场景介绍MindStudio大模型训练性能瓶颈定位流程案例1 常见性能问题场景文档版本 01 (2025-01-13)版权所有 © 华为技术有限公司12 问题定位方法性能问题定位流程Asce