大语言模型
主要介绍大语言模型(LLM)的示例 demo 使用。
📄️ Qwen2.5-1.5B-Instruct
此文档讲解如何在安装了瑞莎智核 AX-M1 的 host 设备上运行 Qwen2.5-1.5B 示例应用
📄️ Qwen3-1.7B
此文档讲解如何在安装了瑞莎智核 AX-M1 的 host 设备上运行 Qwen3-1.7B 示例应用。
📄️ MiniCPM4-0.5B
此文档讲解如何在安装了瑞莎智核 AX-M1 的 host 设备上运行 MiniCPM4-0.5B 示例应用。
📄️ DeepSeek-R1-Qwen-1.5B
此文档讲解如何在安装了瑞莎智核 AX-M1 的 host 设备上运行 DeepSeek-R1-Qwen-1.5B 示例应用。
📄️ DeepSeek-R1-Qwen-7B
此文档讲解如何在安装了瑞莎智核 AX-M1 的 host 设备上运行 DeepSeek-R1-Distill-Qwen-7B-GPTQ-Int4 示例应用。
📄️ SmolLM2-360M-Instruct
此文档讲解如何在安装了瑞莎智核 AX-M1 的 host 设备上运行 SmolLM2-360M-Instruct 示例应用。