ONNX转ms后,benchmark跑分非常慢
生活随笔
收集整理的這篇文章主要介紹了
ONNX转ms后,benchmark跑分非常慢
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
本身有一個ONNX的模型,通過Mindspore Lite 1.7.0版本轉換后,非常順利,但是在benchmark中測試,速度非常慢,很不正常,大家有沒有思路如何排查這個問題
?
可以試下加大thread,用fp16 ,用gpu,benchmark --hep看下命令。主要原因還是你模型太大,resnet50才50ms左右。
總結
以上是生活随笔為你收集整理的ONNX转ms后,benchmark跑分非常慢的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 史上最拉跨的导线平差程序 2.0(by
- 下一篇: 图解splay / splay模板 /