CV / MSPN Pose

MSPN RegNetX-800MF

MSPN (Multi-Stage Pose Network) mit RegNetX-800MF-Backbone führt Echtzeit-Einzelpersonen-Posenschätzung mit 17 COCO-Schlüsselpunkten über HailoRT-Inferenz durch.

Größe

1.3 MB

Speicher

4GB+

Präzision

Hailo HEF / HailoRT

Wähle das Gerät, das du verwendest. Die Einrichtungsanleitung und Dokumentation werden entsprechend aktualisiert.

Plattform

Inferenz-Engine

Erste Schritte

Deploy

sudo docker run --rm \
  --name cm5-hailo-mspn-pose \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.5.1.1:/usr/lib/libhailort.so.5.1.1:ro 
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo10h-cv/mspn_regnetx_800mf:latest \
  python web_detection.py --model_path model/*.hef --video_path video/test.mp4

REST API

Verwende die REST API für die Inferenz. Kopiere die folgenden Befehle.

Curl

curl -X POST "http://<Board_IP>:8000/api/models/mspn_pose/predict" \
  -F "file=@test.jpg"

Python

import requests

resp = requests.post(
    "http://<Board_IP>:8000/api/models/mspn_pose/predict",
    files={"file": open("test.jpg", "rb")},
    timeout=30,
)
print(resp.json())

Modelldetails

MSPN RegNetX-800MF auf reComputer R Serie (CM5 + Hailo-10H)

MSPN (Multi-Stage Pose Network) mit RegNetX-800MF-Backbone fuer Einzelpersonen-Pose-Schaetzung mit 17 COCO-Keypoints, laeuft auf Hailo-10H ueber HailoRT.

Diese Seite richtet sich an reComputer R Serie (CM5 + Hailo-10H) mit einem PCIe Hailo-10H-Beschleuniger.

Modellinformationen

Eigenschaft	Wert
Architektur	MSPN + RegNetX-800MF
Aufgabe	Einzelpersonen-Pose-Schaetzung
Eingabe	256x192x3 RGB
Ausgabe	17 Keypoints (COCO-Format)
Parameter	7,17M
Hardware AP	69,8%
FPS	2034
Quelle	Hailo Model Zoo

COCO-Keypoints

ID	Name	ID	Name	ID	Name
0	nose	6	right_shoulder	13	left_knee
1	left_eye	7	left_elbow	14	right_knee
2	right_eye	8	right_elbow	15	left_ankle
3	left_ear	9	left_wrist	16	right_ankle
4	right_ear	10	right_wrist
5	left_shoulder	11	left_hip
		12	right_hip

Hardware- und Host-Einrichtung

Element	Wert
Board	reComputer R Serie mit Raspberry Pi CM5
Beschleuniger	Hailo-10H ueber PCIe, bereitgestellt als `/dev/hailo0`
Betriebssystem	Raspberry Pi OS Bookworm, aarch64
Host-Treiber	`hailo-all` apt-Paket

bash

sudo apt update
sudo apt install hailo-all
sudo reboot

# Nach dem Neustart
hailortcli fw-control identify
ls /dev/hailo0

# Docker
curl -fsSL https://get.docker.com -o get-docker.sh
sudo sh get-docker.sh --mirror Aliyun
sudo systemctl enable docker
sudo systemctl start docker

Mit Demo-Video ausfuehren

bash

sudo docker run --rm --privileged --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo10h-cv/mspn_regnetx_800mf:latest \
  python web_detection.py --video_path video/test.mp4

Oeffnen Sie http://<R20_IP>:8000, um die Web-Vorschau anzuzeigen. Das Image enthaelt den Modulquellcode, das Demo-Video, das HailoRT-Python-Wheel und die unten aufgefuehrten HEF-Dateien.

USB-Kamera-Modus

bash

sudo docker run --rm --privileged --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  --device /dev/video0:/dev/video0 \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo10h-cv/mspn_regnetx_800mf:latest \
  python web_detection.py --camera_id 0

HEF-Dateien

HEF	Groesse	Hinweise
`mspn_regnetx_800mf.hef`	1,3 MB	Pose-Schaetzungsmodell

REST-API

Vorhersage-Endpunkt:

text

POST http://<R20_IP>:8000/api/models/mspn_pose/predict

Beispiel fuer eine Bildanfrage:

bash

curl -X POST "http://<R20_IP>:8000/api/models/mspn_pose/predict" \
  -F "file=@test.jpg"

Allgemeine Dienst-Endpunkte:

Endpunkt	Methode	Zweck
`/`	GET	Web-Vorschau-UI
`/api/models/mspn_pose/predict`	POST	Einzelbild-Keypoint-Inferenz
`/api/models/mspn_pose/visualize`	POST	Pose-Ueberlagerungsvisualisierung
`/api/models/mspn_pose/keypoints`	GET	Keypoint-Definitionen
`/api/video_feed`	GET	MJPEG-Vorschau-Stream

Entwicklungshinweise

Quellmodul: src/hailo10h_mspn_regnetx_800mf/
Dockerfile: docker/hailo10h/mspn_regnetx_800mf.dockerfile
Hauptdienst: web_detection.py umschliesst HailoRT-Inferenz, Nachbearbeitung, MJPEG-Vorschau und REST-Vorhersage.

Eingaben und Ausgaben

Eingabe: Bild (256x192 RGB). Ausgabe: 17 Keypoints mit x, y, Konfidenz (COCO-Format).