量化是深度学习中一个很有价值的过程,它将连续值映射到一组较小的离散有限值。这是一种强大的技术,可以显著减少深度学习模型的内存占用和计算需求,使其更高效、更容易部署在资源受限的设备上。
在本次演讲中(2023年07月28日 13:30-14:45),我们将探讨可应用于深度学习模型的不同类型的量化技术。此外,我们还将介绍神经网络压缩框架(NNCF),以及其如何进一步为 OpenVINO™ 工具套件进行加持,从而实现卓越性能。在中国,英特尔和百度飞桨在量化方面有非常深入的合作,百度飞桨团队的资深工程师也将与大家共同探讨量化压缩与推理的联合优化问题,介绍 OpenVINO™ 如何对 Paddle Slim 量化模型进行支持。
您将学习到:
▪ 量化技术的价值以及不同类型的量化技术
▪ 如何基于 OpenVINO™ 工具套件使用 NNCF
▪ 通过 Jupyter Notebook 演示量化前后的神经网络图,并进行性能比较
▪ 以目标检测任务为例,了解 OpenVINO™ 对飞桨量化模型的支持
对会议感兴趣,想要了解更多生成式AI技术的童鞋快来报名了:https://bizwebcast.intel.cn/wap/eventstart.aspx?eid=375&tc=oxxpo81e9t&frm=EEPW
OpenVINO™ DEVCON 2023重磅回归!全新面貌、全面解读,更丰富技术培训、更详尽 Demo 演示,持续助力开发者系统学习、稳步提升!马上加入我们每月一次的工作坊研讨会,了解如何优化您的AI应用程序。
✔ 随时了解人工智能发展的最新趋势
✔ 使用适用于您自己解决方案的示例代码将您的知识付诸实践
✔ 从知识渊博的演讲者那里获得直接见解
OpenVINO™ DEVCON 中国 · 系列工作坊2023:
▪ 6月2日 焕然五周年 · 瞰见新特性—英特尔® OpenVINO™ 2023.0
▪ 6月30日 使用 OpenVINO™ 加速生成式AI
▪ 7月28日 超越连续体:量化在深度学习中的重要性
▪ 8月25日 如何逐步构建智能队列管理系统?From Zero to Hero