关于华为昇腾推理

[1556900941lizerui]

我在文档中看到已经支持了torch框架的NPU推理，我有几点疑问，麻烦帮忙解答一下，万分感谢：
1.PPOCRV5是否也支持了NPU的推理
2.是否能够支持Altas 300I Pro，因为paddle框架本身不支持，是否torch本身支持就可以
3.是否会有精度损失

[SWHL]

1.PPOCRV5是否也支持了NPU的推理

支持的。只要有相关torch模型，都是支持的

[SWHL]

2.是否能够支持Altas 300I Pro，因为paddle框架本身不支持，是否torch本身支持就可以

是的。

[SWHL]

3.是否会有精度损失

精度损失涉及到多个方面。一是模型由paddle格式→PyTorch格式有千分之几精度损失。另外就是不同设备对不同算子支持导致的精度损失。

这个建议自行构建评测集，来评估一下。

[1556900941lizerui]

好的特别感谢

[1556900941lizerui]

onnxruntime-cann貌似只能支持CANN8.2的版本？是这样的吗

[SWHL]

这个具体不太清楚了，需要看一下相关文档了。我这里并没有具体追踪。