RK VLM 模型转换


本文介绍如何使用 reComputer RK 工具链转换你自己的 VLM 模型。

克隆 GitHub 仓库

bash
git clone https://github.com/airockchip/rknn-llm.git

cd rknn-llm/examples/rkllm_api_demo

安装依赖包

bash
python -m venv .env & source .env/bin/activate
wget https://github.com/airockchip/rknn-llm/raw/refs/heads/main/rkllm-toolkit/packages/rkllm_toolkit-1.2.3-cp310-cp310-linux_x86_64.whl
pip install .rkllm-toolkit