跳到主要内容

RKNN 安装

提示

本文档旨在演示如何安装 RKNN SDK，更多资料请查看 RKNN Toolkit2 源码库 的 doc 目录。

RKNN 简介​

Rockchip RK3566/RK3568 系列， RK3588 系列， RK3562 系列， RV1103/RV1106 系列芯片搭载神经网络处理器 NPU， 利用 RKNN 可以帮助用户快速部署 AI 模型到 Rockchip 芯片上使用 NPU 硬件加速模型推理。 为了使用 RKNPU，用户首先需要在 x86 计算机上使用 RKNN-Toolkit2 工具，将训练好的模型转换为 RKNN 格式的模型，然后在开发板上使用 RKNN C API 或 Python API进行推断。

所需工具：

  • RKNN-Toolkit2 是一个软件开发工具包，供用户在 PC 和 Rockchip NPU 平台上执行模型转换、推断和性能评估。
  • RKNN-Toolkit-Lite2 为 Rockchip NPU 平台提供了 Python 编程接口，帮助用户部署 RKNN 模型并加速实施 AI 应用。
  • RKNN Runtime 为 Rockchip NPU 平台提供了 C/C++ 编程接口，帮助用户部署 RKNN 模型并加速实施 AI 应用。
  • RKNPU 内核驱动负责与 NPU 硬件交互。

整体框架如下：

framework.png

配置 RKNN 环境​

PC 端配置 RKNN-Toolkit2 环境​

  • 下载 RKNN 仓库

    建议新建一个目录用来存放 RKNN 仓库，例如新建一个名称为 Projects 的文件夹，并将 RKNN-Toolkit2 和 RKNN Model Zoo 仓库存放至该目录下，参考命令如下

    # 新建 Projects 文件夹
    mkdir Projects
    cd Projects

    # 下载 RKNN-Toolkit2 仓库
    git clone https://github.com/airockchip/rknn-toolkit2.git

    # 下载 RKNN Model Zoo 仓库
    git clone https://github.com/airockchip/rknn_model_zoo.git

  • （可选）安装 Anaconda

    如果系统中没有安装 Python 3.8（建议版本），或者同时有多个版本的 Python 环境，建议 使用 Anaconda 创建新的 Python 3.8 环境。

    • 安装 Anaconda

      在计算机的终端窗口中执行以下命令，检查是否安装 Anaconda，若已安装则可省略此节步骤

      $ conda --version
      conda 23.10.0

      如出现 conda: command not found, 则表示未安装 anaconda, 请参考 Anaconda 官网进行安装

    • 创建 conda 环境

      conda create -n rknn python=3.8

    • 进入 rknn conda 环境

      conda activate rknn

    • 退出环境

      conda deactivate

PC 端安装依赖库和 RKNN-Toolkit2​

  • 激活 conda rknn 环境后，进入 rknn-toolkit2 目录，根据您的 Python 版本选择相应的 requirements_cpxx.txt 安装依赖 库，并通过 wheel 包安装 RKNN-Toolkit2，参考命令如下:

    # 进入 rknn-toolkit2 目录
    cd Projects/rknn-toolkit2/rknn-toolkit2
    # 请根据不同的 python 版本，选择不同的 requirements 文件, 这里以 python3.8 为例子
    pip install -r packages/requirements_cp38-1.6.0.txt -i https://mirror.baidu.com/pypi/simple
    # 请根据不同的 python 版本及处理器架构，选择不同的 wheel 安装包文件：
    pip install packages/rknn_toolkit2-1.6.0+81f21f4d-cp38-cp38-linux_x86_64.whl

  • 验证是否安装成功

    执行以下命令，若没有报错，则代表 RKNN-Toolkit2 环境安装成功。

    $ python3
    >>> from rknn.api import RKNN

板端安装 RKNN Toolkit Lite2 及其所需依赖​

信息

Radxa 官方镜像已默认安装 RKNPU2 及其所需依赖，仅需安装 python3-rknnlite2，如无法运行可尝试注释命令

sudo apt update
sudo apt install python3-rknnlite2
# sudo apt install rknpu2-rk3588   #SOC为RK3588系列
# sudo apt install rknpu2-rk356x   #SOC为RK356X系列

如您使用的是 CLI 版本可访问 rknn toolkit lite2 deb 包下载地址

(可选) 板端安装 RKNN Model Zoo​

# 下载 RKNN Model Zoo 仓库
git clone https://github.com/airockchip/rknn_model_zoo.git