随着人工智能,大数据的时代来临,以前嵌入式处理器中的CPU和GPU渐渐的难以满足与日俱增的需求,尤其是深度学习方面。为了应对日渐增长的需求,NPU就诞生的了。
NPU英语全称为Neural Process Unit,译为神经网络处理器。
为了满足人工智能的需要,瑞芯微的处理器也逐渐集成了NPU,称之为RKNPU。
RKNPU经过了几代的发展,首代初次引入了RKNPU是从RK3399pro和RK1808开始的,相比传统的CPU和GPU,在深度学习运算能力上有比较大幅度的提升。接下来在RV1109和RV1126上使用了第二代NPU,提升了NPU的利用率。第三代NPU应用在RK3566和RK3568上,搭载全新NPU自研架构。
瑞芯微RK3568芯片内置NPU,是RKNPU第三代的代表产品。第三代RKNPU特点如下所示:
搭载全新自研架构
支持整数8、整数16卷积运算
内置的NPU支持INT8/INT16混合操作
推理工具支持:TensorFlow, Caffe, Tflite, Pytorch, Onnx NN, Android NN等等
高达1 TOPS的神经网络加速处理性能
基于iTOP-RK3568开发板实现的全新NPU自研架构,可通过算法加持应用到以下场景:
目前,迅为基于RK3568开发板的《iTOP-3568开发板NPU使用手册》也同步上新。