Configuration du runtime Hailo-10H et déploiement de modèles CV

Installez et vérifiez l'environnement d'exécution Hailo-10H, puis déployez un modèle de vision par ordinateur testé depuis AI Lab sur une carte reComputer R Series.


Ce guide vous explique comment installer et vérifier l'environnement d'exécution Hailo-10H et déployer un modèle de vision par ordinateur issu d'AI Lab sur un Raspberry Pi CM5 équipé d'un accélérateur PCIe Hailo-10H. Cette page couvre le flux de travail commun au périphérique, à l'environnement d'exécution et au conteneur ; les paramètres spécifiques à chaque modèle restent mentionnés sur la fiche du modèle correspondant. Le Hailo-10H utilise ses propres artefacts (HEF, image, liaison Python et bibliothèque HailoRT) ; aucun de ceux-ci ne doit être mélangé avec ceux du Hailo-8.

1. Installer et vérifier l'environnement d'exécution

Sur une image Raspberry Pi OS compatible, installez le paquet hôte Hailo-10H et redémarrez avant la première utilisation :

bash
sudo apt update
sudo apt install hailo-h10-all -y
sudo reboot

Après reconnexion, vérifiez le matériel :

bash
lspci -nn | grep -i hailo
lsmod | grep hailo
hailortcli --version
ls -l /dev/hailo0
sudo hailortcli fw-control identify

Résultat attendu : le périphérique PCIe est identifié comme Hailo-10H et /dev/hailo0 existe. Si ce n'est pas le cas, résolvez les problèmes de pilote, de connectivité PCIe ou d'alimentation avant d'exécuter un conteneur de modèle.

2. Récupérer l'image du modèle

Utilisez l'image Hailo-10H exacte indiquée sur la fiche du modèle dans AI Lab :

bash
sudo docker pull ghcr.io/seeed-projects/recomputer-hailo10h-cv/<model>:latest

3. Exécuter le modèle

Remplacez les espaces réservés par la commande indiquée sur la fiche du modèle. La bibliothèque partagée HailoRT versionnée et le lien symbolique sans version doivent tous deux être montés.

bash
sudo docker run --rm \
  --name cm5-hailo10h-<model> \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.5.1.1:/usr/lib/libhailort.so.5.1.1:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo10h-cv/<model>:latest \
  python web_detection.py --model_path model/<model>.hef --video_path video/test.mp4

Ouvrez http://<BOARD_IP>:8000 lorsque le service indique que l'aperçu web est prêt. Conservez tous les arguments spécifiques au modèle indiqués sur la fiche, y compris les HEF secondaires utilisés dans les pipelines en deux étapes.

4. Diagnostiquer les erreurs courantes

SymptômeVérification
/dev/hailo0 n'existe pasVérifiez que lspci détecte le Hailo-10H, que le pilote est chargé et redémarrez après l'installation.
Échec de l'ouverture du fichier de périphériqueVérifiez les permissions du périphérique, l'argument --device du conteneur et la configuration de l'hôte HailoRT.
Erreur liée à HailoRT Python ou à la bibliothèque partagéeUtilisez l'image Hailo-10H et montez à la fois libhailort.so.5.1.1 et libhailort.so.
Erreur de l'API d'inférenceConfirmez que le tag de l'image inclut le code d'application fixe et que le HEF est spécifique au Hailo-10H.

5. Avant de publier un nouveau modèle

Validez l'image et la commande sur un matériel Hailo-10H physique. Ajoutez ensuite le paquet d'image en tant qu'entrée downloadSources dans AI Lab et créez une page Wiki dédiée au Hailo-10H afin que les utilisateurs reçoivent la commande correcte après avoir choisi la plateforme.

image package as a downloadSources entry in AI Lab and create a dedicated Hailo-10H Wiki so users receive the correct command after choosing the platform.