Hailo-10H Runtime-Setup und CV-Modellbereitstellung

Diese Anleitung führt Sie durch die Installation und Überprüfung der Hailo-10H-Laufzeitumgebung und die Bereitstellung eines KI-Lab-CV-Modells auf einem Raspberry Pi CM5 mit PCIe-Hailo-10H-Beschleuniger. Auf dieser Seite werden die gemeinsamen Aspekte von Gerät, Laufzeit und Container-Workflow behandelt; modellspezifische Argumente finden Sie auf der jeweiligen Modellkarte. Hailo-10H verwendet eigene HEF-, Image-, Python- Bindings und die HailoRT-Bibliothek; nichts davon darf mit Hailo-8-Artefakten vermischt werden.

1. Runtime installieren und überprüfen

Installieren Sie das Hailo-10H-Hostpaket auf einem unterstützten Raspberry Pi OS-Image und starten Sie vor der ersten Verwendung neu:

bash

sudo apt update
sudo apt install hailo-h10-all -y
sudo reboot

Nach erneuter Verbindung die Hardware überprüfen:

bash

lspci -nn | grep -i hailo
lsmod | grep hailo
hailortcli --version
ls -l /dev/hailo0
sudo hailortcli fw-control identify

Erwartetes Ergebnis: Das PCIe-Gerät wird als Hailo-10H erkannt und /dev/hailo0 ist vorhanden. Andernfalls beheben Sie Treiber-, PCIe- oder Stromversorgungsprobleme, bevor Sie einen Modellcontainer ausführen.

2. Das Modell-Image abrufen

Verwenden Sie das exakte Hailo-10H-Image, das auf der KI-Lab-Modellkarte angezeigt wird:

bash

sudo docker pull ghcr.io/seeed-projects/recomputer-hailo10h-cv/<model>:latest

3. Das Modell ausführen

Ersetzen Sie Platzhalter durch den Befehl von der Modellkarte. Die versionierte HailoRT-Shared- Library und der unversionierte Symlink müssen beide eingebunden werden.

bash

sudo docker run --rm \
  --name cm5-hailo10h-<model> \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.5.1.1:/usr/lib/libhailort.so.5.1.1:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo10h-cv/<model>:latest \
  python web_detection.py --model_path model/<model>.hef --video_path video/test.mp4

Öffnen Sie http://<BOARD_IP>:8000, sobald der Dienst meldet, dass die Webvorschau bereit ist. Behalten Sie alle modellspezifischen Argumente von der Karte bei, einschließlich sekundärer HEFs für zweistufige Pipelines.

4. Häufige Fehler diagnostizieren

Symptom	Prüfung
`/dev/hailo0` ist nicht vorhanden	Prüfen Sie, ob `lspci` den Hailo-10H erkennt, der Treiber geladen ist, und starten Sie nach der Installation neu.
`Fehler beim Öffnen der Gerätedatei`	Überprüfen Sie die Geräteberechtigungen, das Container-Argument `--device` und das HailoRT-Host-Setup.
HailoRT-Python- oder Shared-Library-Fehler	Verwenden Sie das Hailo-10H-Image und binden Sie sowohl `libhailort.so.5.1.1` als auch `libhailort.so` ein.
Inferenz-API-Fehler	Stellen Sie sicher, dass das Image-Tag den festgelegten Anwendungscode enthält und die HEF-Datei Hailo-10H-spezifisch ist.

5. Vor der Veröffentlichung eines neuen Modells

Validieren Sie das Image und den Befehl auf physischer Hailo-10H-Hardware. Fügen Sie dann das Image-Paket als downloadSources-Eintrag im KI-Labor hinzu und erstellen Sie ein eigenes Hailo-10H-Wiki, damit Benutzer nach Auswahl der Plattform den korrekten Befehl erhalten.