ICCV2019
OpenVINO Deep Learning Workbench: Comprehensive Analysis and Tuning of Neural Networks Inference
最大限度地提高深度学习神经网络性能的任务,是现代软硬件发展的一个具有挑战性的实际目标。无论优化技术种类繁多,还是新兴的专用硬件平台,调整神经网络性能的过程都是艰难的。它需要配置数十种优化算法的超参数,选择合适的指标,对中间方案进行基准测试,以选择最佳的方法、平台等。此外,还需要针对具体的推理目标进行硬件设置。本文介绍了一种复杂的软件解决方案(深度学习工作台),它提供交互式用户界面,简化8位量化的过程,使用Winograds最小滤波算法加快卷积运算,测量所得模型的精度。所提出的软件建立在开源的OpenVINO框架之上,支持庞大范围的现代深度学习模型。