RKLLM-modelimplementatietool

Dit document legt uit hoe je de voorgebouwde image kunt gebruiken om je eigen LLM-model te implementeren.

#Docker installeren

bash

curl -fsSL https://get.docker.com -o get-docker.sh && sudo sh get-docker.sh

#Bereid je model voor

#Voor reComputer RK3576

Hier download ik bij wijze van voorbeeld het reeds geconverteerde model voor reComputer RK3576.

bash

cd ~
mkdir models && cd models
wget https://huggingface.co/JiahaoLi/Qwen3-RK3576/resolve/main/Qwen3-0.6B-rk3576-w4a16.rkllm

#Voor reComputer RK3588

Hier download ik bij wijze van voorbeeld het reeds geconverteerde model voor reComputer RK3588.

bash

cd ~
mkdir models && cd models
wget https://huggingface.co/JiahaoLi/Qwen3-RK3588/resolve/main/Qwen3-0.6B-rk3588-w8a8.rkllm

#Docker installeren

bash

curl -fsSL https://get.docker.com -o get-docker.sh && sudo sh get-docker.sh

#Model uitvoeren

#Uitvoeren op reComputer RK3576

bash


sudo docker run -it --rm \
  --privileged --net=host \
  --device /dev/dri \
  --device /dev/dma_heap \
  --device /dev/rknpu \
  --device /dev/mali0 \
  -v /dev:/dev \
  -v /home/user/models:/models \
  ghcr.io/seeed-projects/deploy_llm:rk3576-latest \
  python3 /app/fastapi_server_llm.py --rkllm_model_path /models/Qwen3-0.6B-rk3576-w4a16.rkllm--target_platform rk3576 --port 8001

#Uitvoeren op reComputer RK3588

bash


sudo docker run -it --rm \
  --privileged --net=host \
  --device /dev/dri \
  --device /dev/dma_heap \
  --device /dev/rknpu \
  --device /dev/mali0 \
  -v /dev:/dev \
  -v /home/user/models:/models \
  ghcr.io/seeed-projects/deploy_llm:rk3588-latest \
  python3 /app/fastapi_server_llm.py --rkllm_model_path /models/Qwen3-0.6B-rk3588-w8a8.rkllm --target_platform rk3588 --port 8001