CV / MSPN Pose

MSPN RegNetX-800MF

MSPN (Multi-Stage Pose Network) avec squelette RegNetX-800MF réalise une estimation de pose en temps réel à personne unique avec 17 points clés COCO via l'inférence HailoRT.

Taille

1.3 MB

Mémoire

4GB+

Précision

Hailo HEF / HailoRT

Choisissez l'appareil que vous utilisez. Le guide de configuration et la documentation seront mis à jour en conséquence.

Plateforme

Moteur d'inférence

Pour commencer

Déployer

sudo docker run --rm \
  --name cm5-hailo-mspn-pose \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.5.1.1:/usr/lib/libhailort.so.5.1.1:ro 
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo10h-cv/mspn_regnetx_800mf:latest \
  python web_detection.py --model_path model/*.hef --video_path video/test.mp4

API REST

Utilisez l'API REST pour exécuter l'inférence. Copiez les commandes ci-dessous.

Curl

curl -X POST "http://<Board_IP>:8000/api/models/mspn_pose/predict" \
  -F "file=@test.jpg"

Python

import requests

resp = requests.post(
    "http://<Board_IP>:8000/api/models/mspn_pose/predict",
    files={"file": open("test.jpg", "rb")},
    timeout=30,
)
print(resp.json())

Détails du modèle

MSPN RegNetX-800MF sur reComputer série R (CM5 + Hailo-10H)

MSPN (Multi-Stage Pose Network) avec squelette RegNetX-800MF pour l'estimation de pose à personne unique avec 17 points clés COCO, s'exécutant sur Hailo-10H via HailoRT.

Cette page cible reComputer série R (CM5 + Hailo-10H) avec un accélérateur PCIe Hailo-10H.

Informations sur le modèle

Propriété	Valeur
Architecture	MSPN + RegNetX-800MF
Tâche	Estimation de pose à personne unique
Entrée	256×192×3 RGB
Sortie	17 points clés (format COCO)
Paramètres	7,17M
AP matériel	69,8%
FPS	2034
Source	Hailo Model Zoo

Points clés COCO

ID	Nom	ID	Nom	ID	Nom
0	nose	6	right_shoulder	13	left_knee
1	left_eye	7	left_elbow	14	right_knee
2	right_eye	8	right_elbow	15	left_ankle
3	left_ear	9	left_wrist	16	right_ankle
4	right_ear	10	right_wrist
5	left_shoulder	11	left_hip
		12	right_hip

Configuration matérielle et hôte

Élément	Valeur
Carte	reComputer série R avec Raspberry Pi CM5
Accélérateur	Hailo-10H sur PCIe, exposé comme `/dev/hailo0`
OS	Raspberry Pi OS Bookworm, aarch64
Pilote hôte	Paquet apt `hailo-all`

bash

sudo apt update
sudo apt install hailo-all
sudo reboot

# Après redémarrage
hailortcli fw-control identify
ls /dev/hailo0

# Docker
curl -fsSL https://get.docker.com -o get-docker.sh
sudo sh get-docker.sh --mirror Aliyun
sudo systemctl enable docker
sudo systemctl start docker

Exécuter avec une vidéo de démonstration

bash

sudo docker run --rm --privileged --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo10h-cv/mspn_regnetx_800mf:latest \
  python web_detection.py --video_path video/test.mp4

Ouvrez http://<R20_IP>:8000 pour visualiser l'aperçu web. L'image inclut le code source du module, la vidéo de démonstration, le wheel Python HailoRT et les fichiers HEF listés ci-dessous.

Mode caméra USB

bash

sudo docker run --rm --privileged --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  --device /dev/video0:/dev/video0 \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo10h-cv/mspn_regnetx_800mf:latest \
  python web_detection.py --camera_id 0

Fichiers HEF

HEF	Taille	Notes
`mspn_regnetx_800mf.hef`	1,3 Mo	Modèle d'estimation de pose

API REST

Point de terminaison de prédiction :

text

POST http://<R20_IP>:8000/api/models/mspn_pose/predict

Exemple de requête image :

bash

curl -X POST "http://<R20_IP>:8000/api/models/mspn_pose/predict" \
  -F "file=@test.jpg"

Points de terminaison courants du service :

Point de terminaison	Méthode	Objectif
`/`	GET	Interface d'aperçu web
`/api/models/mspn_pose/predict`	POST	Inférence de points clés image unique
`/api/models/mspn_pose/visualize`	POST	Visualisation de superposition de pose
`/api/models/mspn_pose/keypoints`	GET	Définitions des points clés
`/api/video_feed`	GET	Flux d'aperçu MJPEG

Notes de développement

Module source : src/hailo10h_mspn_regnetx_800mf/
Dockerfile : docker/hailo10h/mspn_regnetx_800mf.dockerfile
Service principal : web_detection.py enveloppe l'inférence HailoRT, le post-traitement, l'aperçu MJPEG et la prédiction REST.

Entrées et sorties

Entrée : image (256x192 RGB). Sortie : 17 points clés avec x, y, confiance (format COCO).