Configuration du runtime Hailo-8 et déploiement de modèles de vision

Ce guide explique comment vérifier le runtime Hailo-8 et déployer un modèle de vision AI Lab sur un Raspberry Pi CM5 équipé d’un accélérateur PCIe Hailo-8. Cette page couvre le workflow commun au périphérique, au runtime et au conteneur. Les noms d’image, les noms de HEF et les arguments de post-traitement spécifiques à chaque modèle restent documentés sur chaque fiche modèle.

1. Vérification du périphérique

Exécutez ces commandes sur le Raspberry Pi avant de démarrer un conteneur :

bash

lspci -nn | grep -i hailo
lsmod | grep hailo
hailortcli --version
ls -l /dev/hailo0
sudo hailortcli fw-control identify

Résultat attendu : le périphérique PCIe est identifié comme Hailo-8, le pilote PCIe Hailo est chargé et /dev/hailo0 existe. La version de HailoRT installée sur l’hôte doit correspondre à celle attendue par l’image et le HEF.

2. Téléchargement de l’image du modèle

Utilisez l’image exacte indiquée sur la fiche modèle AI Lab correspondante :

bash

sudo docker pull ghcr.io/seeed-projects/recomputer-hailo8-cv/<model>:latest

3. Exécution du modèle

Voici la forme standard du conteneur Hailo-8. Remplacez les espaces réservés par la commande figurant sur la fiche modèle ; n’utilisez pas une image ou un HEF destiné au Hailo-10H.

bash

sudo docker run --rm \
  --name cm5-hailo8-<model> \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/<model>:latest \
  python web_detection.py --model_path model/<model>.hef --video_path video/test.mp4

Une fois le service démarré, ouvrez http://<BOARD_IP>:8000 dans un navigateur. La fiche modèle documente les éventuels arguments supplémentaires, comme un second HEF de détecteur pour un pipeline multi-étapes.

4. Diagnostic des erreurs courantes

Symptôme	Vérification
`/dev/hailo0` n’existe pas	Vérifiez `lspci`, le pilote PCIe et redémarrez après l’installation du pilote.
`HAILO_DRIVER_OPERATION_FAILED`	Confirmez le pilote/runtime hôte, la connexion PCIe et l’état de l’alimentation.
Erreur de chargement `libhailort.so`	Montez la bibliothèque hôte versionnée et le lien symbolique non versionné indiqué ci-dessus.
Le modèle ne démarre pas	Vérifiez que l’image, le HEF, la version majeure de HailoRT et la commande spécifique ciblent bien le Hailo-8.

5. Avant de publier un nouveau modèle

Testez l’image sur du matériel Hailo-8 physique, notez la commande exacte dans le README du modèle et dans le Wiki AI Lab, et configurez l’URL du paquet GHCR dans la section downloadSources de la fiche modèle.