跳到主要内容

CIX AI Model HUb

CIX AI Model Hub 是针对在 CIX SOC 上部署进行了优化的机器学习模型的集合。里面包含了多种领域的 AI 模型例子 (例如计算机视觉，语音识别，生成式 AI 等多种开源模型）与针对 CIX SOC NPU 编译的配置文件。这里主要介绍 AI Model Hub 下载及运行其中的模型。

下载 CIX AI Model Hub 仓库​

通过 CIX 早鸟计划 申请后，会有邮件发送到注册邮箱，请按邮件内容获取 AI Model Hub 仓库

git clone https://e.coding.net/g-uaqh1479/ai-model-hub/ai_model_hub.git

模型例子目录

├── datasets
├── models
│   ├── Audio
│   │   └── Speech_Recognotion
│   ├── ComputeVision
│   │   ├── Face_Detection
│   │   ├── Face_Recognition
│   │   ├── Image_Classification
│   │   ├── Object_Detection
│   │   ├── Pose_Estimation
│   │   ├── Semantic_Segmentation
│   │   └── Super_Resolution
│   └── Generative_AI
│       ├── LLM
│       └── Text_Image_Search
└── utils
    ├── evaluate
    └── label

下载预编译模型​

CIX AI Model Hub 里面的涉及的例子，用户可以直接从 ModelScope 上下载 onnx 模型和预编译好的模型，无需从头编译。

模型运行​

配置环境​

安装 Python 环境

pip3 install -r requirements.txt

模型例子​

  1. 将人类可读的输入预处理为模型输入
  2. 运行模型推理
  3. 将模型输出后处理为人类可读的格式

所有模型示例代码均可在 O6 上使用 NPU 端到端运行：

python3 inference_npu.py

此外，还可以通过 OnnxRuntime 在 X86 主机上或 O6 上使用 CPU 本地运行端到端示例

python3 inference_onnx.py