跳到主要内容

RKNN 安装

提示

本文档旨在演示如何安装 RKNN SDK,更多资料请查看 RKNN Toolkit2 源码库 的 doc 目录。

RKNN 简介

Rockchip RK3566/RK3568 系列, RK3588 系列, RK3562 系列, RV1103/RV1106 系列芯片搭载神经网络处理器 NPU, 利用 RKNN 可以帮助用户快速部署 AI 模型到 Rockchip 芯片上使用 NPU 硬件加速模型推理。 为了使用 RKNPU,用户首先需要在 x86 计算机上使用 RKNN-Toolkit2 工具,将训练好的模型转换为 RKNN 格式的模型,然后在开发板上使用 RKNN C API 或 Python API进行推断。

所需工具:

  • RKNN-Toolkit2 是一个软件开发工具包,供用户在 PC 和 Rockchip NPU 平台上执行模型转换、推断和性能评估。
  • RKNN-Toolkit-Lite2 为 Rockchip NPU 平台提供了 Python 编程接口,帮助用户部署 RKNN 模型并加速实施 AI 应用。
  • RKNN Runtime 为 Rockchip NPU 平台提供了 C/C++ 编程接口,帮助用户部署 RKNN 模型并加速实施 AI 应用。
  • RKNPU 内核驱动负责与 NPU 硬件交互。

整体框架如下:

framework.png

配置 RKNN 环境

PC 端配置 RKNN-Toolkit2 环境

  • 下载 RKNN 仓库

    建议新建一个目录用来存放 RKNN 仓库,例如新建一个名称为 Projects 的文件夹,并将 RKNN-Toolkit2 和 RKNN Model Zoo 仓库存放至该目录下,参考命令如下

    # 新建 Projects 文件夹
    mkdir Projects
    cd Projects

    # 下载 RKNN-Toolkit2 仓库
    git clone https://github.com/airockchip/rknn-toolkit2.git

    # 下载 RKNN Model Zoo 仓库
    git clone https://github.com/airockchip/rknn_model_zoo.git
  • (可选)安装 Anaconda

    如果系统中没有安装 Python 3.8(建议版本),或者同时有多个版本的 Python 环境,建议 使用 Anaconda 创建新的 Python 3.8 环境。

    • 安装 Anaconda

      在计算机的终端窗口中执行以下命令,检查是否安装 Anaconda,若已安装则可省略此节步骤

      $ conda --version
      conda 23.10.0

      如出现 conda: command not found, 则表示未安装 anaconda, 请参考 Anaconda 官网进行安装

    • 创建 conda 环境

      conda create -n rknn python=3.8
    • 进入 rknn conda 环境

      conda activate rknn
    • 退出环境

      conda deactivate

PC 端安装依赖库和 RKNN-Toolkit2

  • 激活 conda rknn 环境后,进入 rknn-toolkit2 目录,根据您的 Python 版本选择相应的 requirements_cpxx.txt 安装依赖 库,并通过 wheel 包安装 RKNN-Toolkit2,参考命令如下:

    # 进入 rknn-toolkit2 目录
    cd Projects/rknn-toolkit2/rknn-toolkit2
    # 请根据不同的 python 版本,选择不同的 requirements 文件, 这里以 python3.8 为例子
    pip install -r packages/requirements_cp38-1.6.0.txt -i https://mirror.baidu.com/pypi/simple
    # 请根据不同的 python 版本及处理器架构,选择不同的 wheel 安装包文件:
    pip install packages/rknn_toolkit2-1.6.0+81f21f4d-cp38-cp38-linux_x86_64.whl
  • 验证是否安装成功

    执行以下命令,若没有报错,则代表 RKNN-Toolkit2 环境安装成功。

    $ python3
    >>> from rknn.api import RKNN

板端安装 RKNN Toolkit Lite2 及其所需依赖

信息

Radxa 官方镜像已默认安装 RKNPU2 及其所需依赖,仅需安装 python3-rknnlite2,如无法运行可尝试注释命令

sudo apt update
sudo apt install python3-rknnlite2
# sudo apt install rknpu2-rk3588 #SOC为RK3588系列
# sudo apt install rknpu2-rk356x #SOC为RK356X系列

如您使用的是 CLI 版本可访问 rknn toolkit lite2 deb 包下载地址

(可选) 板端安装 RKNN Model Zoo

# 下载 RKNN Model Zoo 仓库
git clone https://github.com/airockchip/rknn_model_zoo.git