当前位置：首页 > news >正文

昇腾FAQ-A08-工具链相关

news 2025/7/14 7:37:42

昇腾高频问答FAQ-A08-工具链相关-2507

备注：我们让大模型读了昇腾全年工单，整理了1000条经验包，贴出来供大家参考、少走弯路，但仍可能会有轻微幻觉，或由于产品版本更新、时效性等原因已不完全适用，建议按需搜索+交叉验证，有疑问之处欢迎来查询案例库或提单，咱们边唠嗑边修BUG。转载随意，如反馈修订请移步原文。

FAQ(001)：Atlas服务器在发送请求到MindIE Server过程中出现的超时现象。

原因分析：

发送请求速率超过服务所能处理的能力，导致返回无响应。

解决办法:

降低并发数：对于使用--Concurrency参数的用户（如Benchmark工具），适当减少该值以匹配服务器的实际负载能力。计算参考公式为 npuBlockNum * cacheBlockSize / (平均输入长度 + 平均输出长度) 作为理论最大值。
调整超时时间限制：在使用自定义脚本对MindIE Server发送请求的情况下，可以通过增加脚本中设置的超时阈值来缓解问题。

FAQ(002)：使用ais_bench工具进行推理时报错

原因分析:

输入数据类型不支持（如bfloat16），当前版本的 aisbench 无法处理该格式的数据导致报错。

解决办法:

检查并确保所有模型和数据转换为兼容的浮点或整数精度。ais_bench 不支持 bfloat16 格式输入，需使用 numpy 支持的数据类型。

FAQ(003)：模型量化时报错

原因分析:

未正确安装CANN软件平台或者环境配置不完整。

解决办法:

确保已按步骤完成CANN的安装并设置好相关路径，确保所有依赖项（如mindspore）已成功导入。可以参考msmodelslim/README.md中的“方式二”部分进行检查。

FAQ(004)：生成UT testcase时缺少gtest框架

原因分析:

MindStudio在未来一段时间内不再更新维护。

解决办法:

推荐使用Ascend C替代，以获取更好的支持和功能。同时查看官方公告了解迁移路径：公告链接

FAQ(005)：推理引擎MindIE部署OM模型需要的依赖

原因分析:

用户可能误认为必须使用特定软件或框架。

解决办法:

实际上，运行.om文件不需要依赖其他推理工具。只需在服务器安装msit并用命令行调用即可：msit benchmark --om-model *.om

FAQ(006)：MindStudio导出ONNX模型时报错

原因分析:

用户尝试使用MindStudio导出ONNX格式时可能未遵循标准PyTorch方法。

解决办法:

使用 torch.onnx.export() 函数进行转换，并查阅相关文档了解具体用法。不建议依赖特定工具自动完成，而是推荐手动执行以确保兼容性。

FAQ(007)：Profiling与Profiler功能差异

原因分析:

用户对不同性能分析工具有混淆。

解决办法:

profiling 是用于收集模型运行时的详细数据；而 profiler 通常指具体的工具或模块，如在MindInsight中。具体使用方法可以参考以下链接：profiler文档

FAQ(008)：多模态模型Profiling时报错"memory Access"

原因分析:

可能是CANN版本与Torch NPU的兼容性问题导致。

解决办法:

根据昇腾官方文档，升级或降级torch_npu以匹配当前使用的 CANN 版本。参考链接：版本对应表

FAQ(009)：MindStudio IDE无法生成OM模型

原因分析:

MindStudio IDE已停止更新，不再演进。

解决办法:

推荐使用推理命令行工具msit, 安装后通过如下方式运行：msit benchmark --om-model *.om

FAQ(010)：MindIE Server不支持动态输入

原因分析:

当前MindSpeed版本可能未实现对变频数据的支持。

解决办法:

如果涉及AI Core频率调整，相关参数应记录在生成的 msprof_*.json 文件中。详情请查阅官方文档：昇腾NPU性能分析文档

FAQ(011)：多batch输入导致推理结果混乱

原因分析：

多批处理时数据维度不一致，未正确设置模型的动态形状支持。

解决办法：

在转换ONNX模型为OM格式时启用--dymShape_range参数来指定BatchSize范围。参考文档：ATC工具说明

FAQ(012)：权重文件路径配置错误

原因分析:

权重和量化后的模型保存在同一目录，导致覆盖或读取异常。

解决办法:

确保浮点权重、W8A8S及W8A8SC的输出路径分别设置为不同的独立目录。具体操作可参考：官方文档

FAQ(013)：多模态模型训练时精度异常

原因分析:

大模型量化难度较高，需适配不同算法。

解决办法:

请确认是否为LMM（如GPT、LLM等）进行的量化的场景。对于这些大型语言模型，推荐使用MindSpeed工具链以获得更佳效果。

FAQ(014)：MindStudio中缺少gtest框架

原因分析:

未正确配置Python SDK或环境路径。

解决办法:

在PyCharm或其他IDE里确认项目使用的SDK版本是否为昇腾支持的NPU加速芯片，例如Atlas 300I Pro设备。若不确定，请参考MindSpeed文档进行设置：相关指南

FAQ(015)：MindStudio中如何正确配置以确保能够收集NPU通信性能数据？

在使用TP进行模型分析时，用户发现没有采集到预期的NPU通信时间信息。

原因分析：

未启用正确的profiler_level参数或相关功能开关导致无法捕获通信相关的性能指标。MindStudio需要特定配置才能记录这些详细的数据。

解决办法：

在代码中设置profiler_level=torch_npu.profiler.ProfilerLevel.Level1或者更高级别（例如 ProfilerLevel.Level2）来启用详细的NPU通信数据采集。

示例：
```
torch_npu.set_profiler_config(profiling_mode=True, profiler_level=torch_npu.profiler.ProfilerLevel.Level1)
```
确保执行环境支持并正确配置了profiler功能，确保没有其他设置覆盖或禁用通信数据的采集。

参考资料：

性能分析文档

FAQ(016)：MindStudio中进行模型迁移时遇到`object has no attribute 'get_infer_func_list'`错误如何解决？

在使用自动迁移工具（例如msit）将PyTorch代码迁移到NPU平台的过程中，出现如下报错信息：

An error occurred:'NoneType'
MsFmkTransplt run failed!

用户期望能够成功完成模型的离线部署和性能测试。

原因分析：

迁移工具依赖某些Python库未正确安装或版本不匹配。例如缺少jedi、pandas, 或者 libcst等必要组件，导致在执行脚本时无法解析代码结构并提取推理函数列表。

解决办法：

确保所有依赖包已正确安装且满足最低要求：

安装或升级必要的Python库（确保版本兼容）:

pip3 install pandas >=1.2.4
pip3 install libcst
pip3 install prettytable # 将数据可视化为图表形式，建议也一并完成安装
pip3 install jedi  # 可选但推荐的包用于跨文件解析代码结构。

确认迁移工具运行环境是否与CANN版本兼容。如果使用的是较新的特性（如get_infer_func_list），请确认所依赖库已适配此功能。

示例：

pip3 install pandas==1.2.6  # 推荐安装一个稳定且满足最低需求的pandas版本。

FAQ(017)：MindStudio中执行benchmark测试时，遇到权限错误如何处理？

在使用mindiebenchmark进行性能评估或压力测试（如DeepSeek-R1-Distill-Llama-70B）过程中报错提示文件权限不足。

原因分析：

Benchmark工具在校验配置文件的读写权限时，发现某些关键配置文件的访问级别与预期不匹配。具体表现为ValueError: The file does not meet the permission requirement ?rw-r-----, but got ?rw-r--r--提示。

解决办法：

使用命令查询mindiebenchmark安装路径：
```
pip show mindiebenchmark | grep Location:
```
修改权限，允许当前用户对配置文件有写入权限（可执行以下脚本）：
```
find {python环境路径}/mindie* -name *config.json | xargs chmod 640
```

示例说明：

假设您的MindIE Benchmark安装在/usr/local/lib/python3.11/site-packages/mindiebenchmark/..., 则执行命令如下：

find /usr/local/lib/python3.11/site-packages/mindie* -name *config.json | xargs chmod 640

FAQ(018)：MindStudio中如何正确选择与当前NPU硬件版本匹配的CANN软件包？

在进行模型转换或开发时，用户不确定是否应根据自己的昇腾设备（如Atlas 200I DK A2）来选择特定版本的CANN。

原因分析：

不同型号的昇腾芯片可能需要不同的驱动和库支持。使用不匹配的软件包可能导致兼容性问题或者功能缺失。

解决办法：

使用命令查询当前NPU设备的具体SoC版本信息:
```
npu-smi info | grep soc_version
```
根据查询结果选择对应的CANN安装包，确保与实际硬件匹配。

FAQ(019)：MindStudio无法远程运行代码（Remote Run）功能如何启用？

用户按照教程操作后，在Windows上使用remote run功能失败或找不到对应选项，期望通过本地环境操作远端服务器上的昇腾设备进行模型训练和推理。

原因分析：

可能是MindStudio版本不支持远程运行特性或者配置未正确设置。此外也有可能是缺少某些必要的依赖工具链组件（如Jupyter notebook插件等）导致功能缺失或不可见。

解决办法：

确认使用的MindStudio是否为最新版且包含JetBrains的原生能力。

可参考：
- MindStudio Insight版本：https://www.hiascend.com/developer/download/community/result?module=sto+cann&sto=6.0.0&cann=7.0.1.beta1
按照JetBrains官方文档配置远程调试环境。

示例说明：

# 下载并安装MindStudio Insight 7.0.RC3版本，确保支持Remote Run特性。

FAQ(020)：如何将动态库`libascend_acl_hook.so`链接到应用工程中？

用户希望在自己的应用程序中使用NPU提供的钩子函数进行调试或性能优化时需要引入此动态库文件。

原因分析：

未正确配置编译参数，导致无法找到相关符号或功能调用失败。具体来说是libascend_acl_hook.so没有被链接到用户的应用工程中。

解决办法：

在Makefile、CMakeLists.txt或其他构建脚本中添加动态库的路径和依赖项。

示例（使用g++）：

g++ -o my_app main.cpp \-I /usr/local/Ascend/mindie/include \ # 添加头文件目录-L/usr/local/Ascend/mindie/lib64 \     # 指定动态库路径-lascl_aclnnl_hook \                  # 链接libascend_acl_hook.so

若使用CMake，请在target_link_libraries()中添加：

target_link_libraries(my_target PRIVATE ascend_acl_hook)

示例说明：

参考官方示例代码，确认是否将头文件替换为msSanitizer提供的版本，并且正确链接到动态库。

FAQ(021)：MindStudio Profiler工具无法加载Python调用栈信息？

导入性能分析结果后，在MindStudio Insight中未能看到完整的Python层调用链路（call stack），影响调试和优化判断。

原因分析：

未正确配置profiling参数以捕获Python层级的执行路径。默认情况下，某些工具只关注NPU底层操作或算子层面信息。

解决办法：

在Profiler启动时添加with_modules=True以及启用栈跟踪（stack trace）选项。

示例代码设置:

torch_npu.set_profiler_config(with_stack=True,activities=[torch.profiler.ProfilerActivity.CUDA], # 或NPU相关的活动类型
)

确保在运行时配置中包含--with_modules True --enable_stack_trace True

示例说明：

./run_profiler.sh --with_modules true --enable_stack_trace true
# 请根据实际工具文档进行调整，确保profiling脚本或命令行参数正确。

FAQ(022)：MindStudio中执行迁移时提示缺少某些Python依赖包怎么办？

在使用msit llm transform -s ./Qwen2-0___5B-Instruct/ ?py

工具进行模型转换过程中，出现错误信息指出某个类（如ATBModelFromTorch）不存在或找不到特定属性。

原因分析：

缺少对CANN环境的初始化设置。迁移脚本需要正确的Ascend CANN配置才能正常运行。

解决办法：

在执行任何NPU相关操作前，确保已正确加载了CANN包中的set_env.sh

示例命令:
```
cd /usr/local/ascend/
source set_env.sh
```

FAQ(023)：MindStudio中配置OP_DEBUG_CONFIG后运行失败返回非0状态码？

用户尝试使用op_debug_config进行调试，但执行结果异常。

原因分析：

可能是由于op_compiler和opc工具的参数或环境变量设置不当导致编译/运行时出错。此外，可能未正确配置SSH连接到远端服务器，或者防火墙、权限问题阻止了远程服务调用。

解决办法：

检查并确认是否已根据昇腾官方文档（如《Atlas OP Compiler使用指南》）进行正确的环境变量设置。

示例：
```
export ASCEND_TOOLKIT_HOME=/usr/local/Ascend/
```

FAQ(024)：MindStudio中如何配置远程连接到服务器执行NPU任务？

原因分析：

用户未能正确完成SSH连接或权限验证，导致无法通过本地IDE访问远端昇腾设备。

解决办法：

确保已安装并启用sshpass工具。

 sudo apt install sshpass # Debian/Ubuntu系统命令行示例

在MindStudio中设置SSH连接参数时，使用密码或密钥认证方式确保可以自动登录服务器。

FAQ(025)：如何在昇腾设备上启用并验证远程调试功能？

原因分析：

可能未正确配置JetBrains原生的Remote Debug模式或者缺少必要的插件/工具支持。

解决办法：

确保MindStudio版本（如7.0.RC3）包含对remote run的支持。

示例命令启动远程调试会话:
```
# 在mindstudio中选择“Run -> Edit Configurations”并添加Remote Jupyter Server或SSH配置
```

FAQ(026)：如何在MindStudio Insight工具里查看完整的性能分析数据？

原因分析：

未正确启用所有必要的采集参数（如with_modules和with_stack），导致部分关键信息缺失。

解决办法：

启动profiler时，同时开启多个选项：

  torch_npu.set_profiler_config(with_modules=True,activities=[torch.profiler.ProfilerActivity.CPU],schedule=torch.profiler.schedule(wait=1, warmup=2, active=3),record_shapes=False,profile_memory=False,stack_trace='full'
)

确保在MindStudio Insight中正确加载了采集的profiling数据文件（如*.json或*trace目录）。

FAQ(027)：MindStudio中执行远程操作时提示连接失败？

原因分析：

SSH配置错误或服务器端服务未启动，导致无法建立稳定的连接。

检查并确保：
- SSH服务在远端服务器上已启用。
- 用户名、IP地址及密码/密钥正确无误，并且防火墙允许相应的通信端口（通常是22）。

FAQ(028)：MindStudio中如何确认当前环境是否安装了正确的Python依赖？

原因分析：

在使用某些工具时，用户可能未意识到其代码或脚本需要额外的第三方库支持。例如缺少jedi, pandas, 或者版本过低。

检查并确保以下包已正确安装：

 pip3 list | grep -E 'pandas|libcst|prettytable'# 如果未找到或版本不匹配，则需进行升级/重新安装。

FAQ(029)：MindStudio中执行模型迁移时，提示找不到某个类的属性？

用户在使用msit llm transform -s ./Qwen2-0___5B-Instruct/?py等命令进行算子或模型转换时遇到错误。

原因分析：

可能是依赖库未正确加载或者代码中引用了尚未定义的类属性（如ATBModelFromTorch）导致迁移失败。

解决办法：

确保已source CANN环境变量。
检查是否按照官方文档中的示例修改头文件和链接动态库，以确保所有依赖正确加载。

查看全文

http://www.dtcms.com/a/277489.html

小架构step系列13：测试用例的加载

线性代数学习笔记

求解线性规划模型最优解

Java行为型模式---观察者模式

AI基础设施展望

《Mirage：首款基于实时世界模型的AI原生UGC游戏引擎，开启“边玩边生成”的游戏新时代》

Python实现小红书悬停框效果详解

极矢量与轴矢量

框架和库的区别

MCP4725 数据手册解读

通信子网 V

cuda编程笔记（7）--多GPU上的CUDA

黑马点评系类问题p63中ClassPathResource报错

Claude Code AI 编程指南

在 Flow 取消时自动清理资源

构建可落地的企业AI Agent，背后隐藏着怎样的技术密码？

vue是什么

【读书笔记】《Effective Modern C++》第二章：auto

改进后的 OpenCV 5.x + GStreamer + Python 3.12 编译流程（适用于 Orange Pi / ARM64）

正则化-机器学习

Redis面试精讲 Day 2：Redis数据类型全解析

内存管理概念

Docker安装Nginx

Web：JS的三种引用方式

《每日AI-人工智能-编程日报》--2025年7月12日

Windows 常用命令

网络编程 JAVA

视觉语言导航与目标导航

【银行测试】基金项目测试详细，测试点+面试（一）

LangChain专家养成：工具扩展/Agent决策/记忆控制三维进阶

昇腾高频问答FAQ-A08-工具链相关-2507

FAQ(001)：Atlas服务器在发送请求到MindIE Server过程中出现的超时现象。

原因分析：

解决办法:

FAQ(002)：使用ais_bench工具进行推理时报错

原因分析:

解决办法:

FAQ(003)：模型量化时报错

原因分析:

解决办法:

FAQ(004)：生成UT testcase时缺少gtest框架

原因分析:

解决办法:

FAQ(005)：推理引擎MindIE部署OM模型需要的依赖

原因分析:

解决办法:

FAQ(006)：MindStudio导出ONNX模型时报错

原因分析:

解决办法:

FAQ(007)：Profiling与Profiler功能差异

原因分析:

解决办法:

FAQ(008)：多模态模型Profiling时报错"memory Access"

原因分析:

解决办法:

FAQ(009)：MindStudio IDE无法生成OM模型

原因分析:

解决办法:

FAQ(010)：MindIE Server不支持动态输入

原因分析:

解决办法:

FAQ(011)：多batch输入导致推理结果混乱

原因分析：

解决办法：

FAQ(012)：权重文件路径配置错误

原因分析:

解决办法:

FAQ(013)：多模态模型训练时精度异常

原因分析:

解决办法:

FAQ(014)：MindStudio中缺少gtest框架

原因分析:

解决办法:

FAQ(015)：MindStudio中如何正确配置以确保能够收集NPU通信性能数据？

原因分析：

解决办法：

参考资料：

FAQ(016)：MindStudio中进行模型迁移时遇到object has no attribute 'get_infer_func_list'错误如何解决？

原因分析：

解决办法：

示例：

FAQ(017)：MindStudio中执行benchmark测试时，遇到权限错误如何处理？

原因分析：

解决办法：

示例说明：

FAQ(018)：MindStudio中如何正确选择与当前NPU硬件版本匹配的CANN软件包？

原因分析：

解决办法：

FAQ(019)：MindStudio无法远程运行代码（Remote Run）功能如何启用？

原因分析：

解决办法：

示例说明：

FAQ(020)：如何将动态库libascend_acl_hook.so链接到应用工程中？

原因分析：

解决办法：

示例说明：

FAQ(021)：MindStudio Profiler工具无法加载Python调用栈信息？

原因分析：

解决办法：

示例说明：

FAQ(022)：MindStudio中执行迁移时提示缺少某些Python依赖包怎么办？

原因分析：

解决办法：

FAQ(023)：MindStudio中配置OP_DEBUG_CONFIG后运行失败返回非0状态码？

原因分析：

解决办法：

FAQ(024)：MindStudio中如何配置远程连接到服务器执行NPU任务？

原因分析：

解决办法：

FAQ(025)：如何在昇腾设备上启用并验证远程调试功能？

FAQ(016)：MindStudio中进行模型迁移时遇到`object has no attribute 'get_infer_func_list'`错误如何解决？

FAQ(020)：如何将动态库`libascend_acl_hook.so`链接到应用工程中？