Hailo-8-Laufzeitumgebung einrichten und CV-Modell bereitstellen

Verwenden Sie diese Anleitung, um die Hailo-8-Laufzeitumgebung zu überprüfen und ein AI-Lab-CV-Modell auf einem Raspberry Pi CM5 mit PCIe-Hailo-8-Beschleuniger bereitzustellen. Diese Seite beschreibt den allgemeinen Workflow für Gerät, Laufzeitumgebung und Container. Modellspezifische Image-Namen, HEF-Namen und Argumente für die Nachbearbeitung finden Sie auf der jeweiligen Modellkarte.

1. Gerät überprüfen

Führen Sie diese Befehle auf dem Raspberry Pi aus, bevor Sie einen Container starten:

bash

lspci -nn | grep -i hailo
lsmod | grep hailo
hailortcli --version
ls -l /dev/hailo0
sudo hailortcli fw-control identify

Erwartetes Ergebnis: Das PCIe-Gerät wird als Hailo-8 erkannt, der Hailo-PCIe-Treiber ist geladen und /dev/hailo0 ist vorhanden. Die auf dem Host installierte HailoRT-Version muss mit der vom Image und HEF erwarteten Version übereinstimmen.

2. Modell-Image herunterladen

Verwenden Sie das exakte Image, das auf der entsprechenden AI-Lab-Modellkarte angegeben ist:

bash

sudo docker pull ghcr.io/seeed-projects/recomputer-hailo8-cv/<model>:latest

3. Modell ausführen

Dies ist die Standardform eines Hailo-8-Containers. Ersetzen Sie die Platzhalter durch den Befehl von der Modellkarte; verwenden Sie kein Hailo-10H-Image oder -HEF.

bash

sudo docker run --rm \
  --name cm5-hailo8-<model> \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/<model>:latest \
  python web_detection.py --model_path model/<model>.hef --video_path video/test.mp4

Wenn der Dienst startet, öffnen Sie http://<BOARD_IP>:8000 in einem Browser. Die Modellkarte dokumentiert weitere Argumente, z. B. ein zweites Detektor-HEF für eine mehrstufige Pipeline.

4. Häufige Fehler diagnostizieren

Symptom	Prüfschritt
`/dev/hailo0` existiert nicht	`lspci` prüfen, PCIe-Treiber kontrollieren und nach der Treiberinstallation neu starten.
`HAILO_DRIVER_OPERATION_FAILED`	Host-Treiber/Laufzeitumgebung, PCIe-Verbindung und Stromversorgung überprüfen.
`libhailort.so`-Ladefehler	Versionierte Host-Bibliothek und den oben gezeigten unversionierten Symlink einbinden.
Modell startet nicht	Sicherstellen, dass Image, HEF, HailoRT-Hauptversion und modellspezifischer Befehl alle auf Hailo-8 abzielen.

5. Vor der Veröffentlichung eines neuen Modells

Testen Sie das Image auf physischer Hailo-8-Hardware, dokumentieren Sie den exakten Befehl im Modell-README und im AI-Lab-Wiki und konfigurieren Sie die GHCR-Paket-URL in den downloadSources der Modellkarte.