openvino概述

发布时间 2023-09-30 09:37:57作者: FeiYull

下面是openvino cpu、集成显卡、神经棒的性能:

 

 

 

 

 

 

 

 

   使用openvino的时候,你的模型一般都是.pt等等格式,可以先转为onnx格式,再基于ModelOptimizer转为IR格式(xml +bin);

另外,模型优化器还能优化网络结构(水平、垂直融合,添加、删除一个or 多个层)

 

 

 

 openvino提供了各种预训练模型,如下图:

 

 

 性能测试:

  如果你想测某一层的性能耗时,可以使用一下指令:

 

 DL workBench用于可视化模型各项性能指标。