Hailo-8-runtime configureren en CV-modellen implementeren

Controleer de Hailo-8-runtime en het apparaat, en implementeer een getest AI Lab CV-model op een reComputer R Series.

Gebruik deze handleiding om de Hailo-8-runtime te controleren en een AI Lab CV-model uit te rollen op een Raspberry Pi CM5 met een PCIe Hailo-8-accelerator. Deze pagina behandelt de algemene workflow voor apparaat, runtime en container. Modelspecifieke imagenamen, HEF-namen en nabewerkingsargumenten staan op de bijbehorende modelkaart.

1. Apparaat controleren

Voer de volgende opdrachten uit op de Raspberry Pi voordat u een container start:

bash
lspci -nn | grep -i hailo
lsmod | grep hailo
hailortcli --version
ls -l /dev/hailo0
sudo hailortcli fw-control identify

Verwacht resultaat: het PCIe-apparaat wordt herkend als Hailo-8, het Hailo PCIe-stuurprogramma is geladen en /dev/hailo0 bestaat. De HailoRT-release die op de host is geïnstalleerd, moet overeenkomen met de release die door de image en HEF wordt verwacht.

2. Modelimage ophalen

Gebruik de exacte image die op de relevante AI Lab-modelkaart wordt weergegeven:

bash
sudo docker pull ghcr.io/seeed-projects/recomputer-hailo8-cv/<model>:latest

3. Model uitvoeren

Dit is de standaardcontainerconfiguratie voor Hailo-8. Vervang de plaatsaanduidingen door de opdracht van de modelkaart; gebruik geen Hailo-10H-image of HEF.

bash
sudo docker run --rm \
  --name cm5-hailo8-<model> \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/<model>:latest \
  python web_detection.py --model_path model/<model>.hef --video_path video/test.mp4

Wanneer de service start, open http://<BOARD_IP>:8000 in een browser. De modelkaart beschrijft eventuele extra argumenten, zoals een tweede detector-HEF voor een meertrapspipeline.

4. Veelvoorkomende fouten diagnosticeren

SymptoomControle
/dev/hailo0 bestaat nietControleer lspci, het PCIe-stuurprogramma en herstart na installatie van het stuurprogramma.
HAILO_DRIVER_OPERATION_FAILEDControleer het hoststuurprogramma/de runtime, de PCIe-verbinding en de stroomstatus.
libhailort.so laadfoutKoppel de geversioneerde hostbibliotheek en de niet-geversioneerde symbolische koppeling zoals hierboven weergegeven.
Model start nietControleer of de image, HEF, de hoofdrelease van HailoRT en de modelspecifieke opdracht allemaal gericht zijn op Hailo-8.

5. Voordat u een nieuw model publiceert

Test de image op fysieke Hailo-8-hardware, noteer de exacte opdracht in de model-README en de AI Lab Wiki, en configureer de GHCR-pakket-URL in de downloadSources van de modelkaart.