VPU- und NPU-Hardwarebeschleunigungs-Benchmark des reComputer RK3576
Benchmark-Ergebnisse für MPP-beschleunigte YUV420-zu-MJPG/H264/H265-Kodierung, MJPG-zu-YUV420-Dekodierung und RKNN-beschleunigte Inferenz mit YOLOv8n, YOLOv8s und YOLOv8m auf dem reComputer RK3576.
RK3576-Benchmark-Testprojekt
Dieses Projekt misst die MPP-Videoenkodierung, MPP-Videodekodierung und RKNN-Inferenzleistung der RK3576-Plattform.
- Bewertung der Chip-Leistung
- Auswahl für Sicherheitsprojekte
- Vergleich von Modellen und Auflösungen
- Regressionstests und technische Übergabe
Getestet werden YUV420 -> MJPG / H264 / H265, MJPG -> YUV420 und 640x640 YOLOv8n/s/m bei 720p / 1080p / 2k / 4k / 8k.
RK3576-Benchmark-Zusammenfassung
- generated_at: 2026-07-28 16:34:52
- target_fps: 30
- codec_frames: warmup 20 + measured 120
- infer_frames: warmup 20 + measured 200
YUV420 -> MJPG / H264 / H265
| Auflösung | Größe | Codec | Bitrate(Mbps) | Encode FPS | Mittel(ms) | P95(ms) | Ausgabe(MB) | Status |
|---|---|---|---|---|---|---|---|---|
| 720p | 1280x720 | mjpg | 20.0 | 480.7 | 1.1 | 1.2 | 13.9 | OK |
| 720p | 1280x720 | h264 | 4.0 | 154.7 | 4.4 | 4.8 | 1.7 | OK |
| 720p | 1280x720 | h265 | 4.0 | 179.2 | 4.2 | 4.4 | 1.1 | OK |
| 1080p | 1920x1080 | mjpg | 30.0 | 237.6 | 2.1 | 2.8 | 31.3 | OK |
| 1080p | 1920x1080 | h264 | 8.0 | 90.7 | 7.9 | 8.1 | 3.6 | OK |
| 1080p | 1920x1080 | h265 | 8.0 | 88.8 | 8.2 | 8.3 | 2.5 | OK |
| 2k | 2560x1440 | mjpg | 45.0 | 159.5 | 2.9 | 3.2 | 55.4 | OK |
| 2k | 2560x1440 | h264 | 16.0 | 43.4 | 13.6 | 14.1 | 6.3 | OK |
| 2k | 2560x1440 | h265 | 16.0 | 38.6 | 14.5 | 15.0 | 4.4 | OK |
| 4k | 3840x2160 | mjpg | 60.0 | 77.7 | 5.8 | 6.0 | 124.5 | OK |
| 4k | 3840x2160 | h264 | 32.0 | 24.5 | 28.7 | 29.5 | 14.1 | OK |
| 4k | 3840x2160 | h265 | 32.0 | 21.7 | 31.2 | 32.2 | 9.3 | OK |
| 8k | 7680x4320 | mjpg | 90.0 | 20.5 | 25.1 | 29.7 | 497.7 | OK |
| 8k | 7680x4320 | h264 | 64.0 | 7.1 | 109.0 | 109.8 | 28.8 | OK |
| 8k | 7680x4320 | h265 | 64.0 | 6.6 | 117.6 | 118.1 | 27.8 | OK |
MJPG -> YUV420
| Auflösung | Größe | Frames | Decode FPS | Mittel(ms) | P95(ms) | Status |
|---|---|---|---|---|---|---|
| 720p | 1280x720 | 120/120 | 380.4 | 2.6 | 2.9 | OK |
| 1080p | 1920x1080 | 120/120 | 268.6 | 3.7 | 4.0 | OK |
| 2k | 2560x1440 | 120/120 | 191.0 | 5.2 | 5.5 | OK |
| 4k | 3840x2160 | 120/120 | 108.6 | 9.2 | 9.7 | OK |
| 8k | 7680x4320 | 120/120 | 32.8 | 30.5 | 31.5 | OK |
YOLOv8 640x640
| Modell | Pfad | Inferenz FPS | Mittel(ms) | P95(ms) | Vorverarb.(ms) | NPU(ms) | Status |
|---|---|---|---|---|---|---|---|
| yolov8n | model/yolov8n_rk3576.rknn | 35.5 | 27.3 | 32.7 | 1.4 | 16.9 | OK |
| yolov8s | model/yolov8s_rk3576.rknn | 17.0 | 58.2 | 63.8 | 1.2 | 35.2 | OK |
| yolov8m | model/yolov8m_rk3576.rknn | 9.5 | 104.2 | 109.6 | 1.2 | 83.4 | OK |
1. Benchmark ausführen
Führen Sie den Test auf einem reComputer-RK3576-Board aus.
sudo apt update && sudo apt install unzip -y
wget https://files.seeedstudio.com/RK3576/install.zip -O install.zip && unzip install.zip
cd ./install && export LD_LIBRARY_PATH="$(pwd)/lib:${LD_LIBRARY_PATH}" && chmod +x ./bin/rk3576_benchmark
sudo ./bin/rk3576_benchmarkTestergebnisse
ls benchmark_results/
benchmark_summary.md video_codec_benchmark.csv yolov8_inference_benchmark.csvHäufige Optionen
./bin/rk3576_benchmark \
--output-dir ./benchmark_results \
--resolutions 720p,1080p,2k,4k,8k \
--models yolov8n,yolov8s,yolov8m \
--codec-warmup 20 \
--codec-frames 120 \
--infer-warmup 20 \
--infer-frames 2002. Projektfunktionen
Das Projekt erzeugt Testframes, prüft Mehrfachauflösungs-Kodierung, MJPG-Hardwaredekodierung und YOLOv8-Inferenz mit 640x640 und exportiert Markdown- und CSV-Berichte.
3. Testablauf
YUV420SP (NV12)-Frames in der gewählten Auflösung erzeugen.MJPG / H264 / H265getrennt mit demMPP Encodertesten.- Den MJPG-Bitstream mit dem
MPP Decodernach YUV420 dekodieren. - YOLOv8n/s/m über RKNN mit
640x640 NV12testen. - FPS, Durchschnittslatenz, P95 und Bitstream-Größe zusammenfassen.
4. Technischer Ansatz
MPP-Kodierung
Die Kodierung nutzt Rockchip MPP und intern erzeugte NV12-Frames für IPC, NVR-Transkodierung, Mehrfachstream-Verteilung und Schnappschüsse.
MPP-Dekodierung
Die Dekodierung nutzt den MPP-MJPEG-Hardwarepfad. Decode FPS basiert nur auf der Kernzeit und schließt Scheduling- und Logging-Aufwand des Frameworks aus.
RKNN + YOLOv8
Die Inferenz nutzt RKNN, eine feste 640x640-Eingabe und yolov8n/s/m; Gesamt-, Vorverarbeitungs- und NPU-Latenz werden gemessen.
5. Metrikdefinitionen
Avg(ms) bezeichnet die mittlere Zeit pro Frame, P95(ms) die 95-Perzentil-Latenz und FPS den Durchsatz der Messphase.
6. Ergebnisbewertung
- MJPG-Kodierung übertrifft von 720p bis 4k deutlich Echtzeitanforderungen; 8k erreicht 20.5 FPS und eignet sich eher zur Validierung.
- H264/H265 liefern bei 720p, 1080p und 2k gute Echtzeitleistung. 4k liegt nahe der Praxisgrenze; 8k eignet sich nicht als üblicher Echtzeit-Hauptstream.
- Die MJPG-Hardwaredekodierung schließt bei jeder Auflösung 120/120 Frames ab und erreicht bei 8k noch 32.8 FPS.
- yolov8n erreicht 35.5 FPS für einkanalige 25/30-FPS-Erkennung; yolov8s eignet sich für Frame-Sampling und yolov8m für ereignisgesteuerte oder Offline-Analyse.
7. Empfohlene Bereitstellung
yolov8nals Standardmodell bevorzugen.1080p / 2kfür Echtzeit-Edge-Analyse verwenden.4kauf der KI-Seite skalieren oder Frames abtasten.8kfür Demonstrationen oder gezielte Validierungen reservieren.
Hinweise
- YUV420SP, MJPG, H264, H265, NV12, MPP, RKNN, Modellpfade, Befehle, URLs und Messwerte entsprechen exakt dem Basisdokument.
- Synthetische Eingaben schaffen stabile, reproduzierbare Bedingungen für Regressionstests und Auflösungsvergleiche.