Hailo-8 ランタイムのセットアップとCVモデルのデプロイ

このガイドでは、Hailo-8 のランタイムを検証し、PCIe Hailo-8 アクセラレータを搭載した Raspberry Pi CM5 上で AI Lab のCVモデルをデプロイします。デバイス、ランタイム、コンテナの共通ワークフローを説明します。モデル固有のイメージ名、HEF 名、後処理の引数は、各モデルカードに記載されています。

1. デバイスの確認

コンテナを起動する前に、Raspberry Pi 上で以下のコマンドを実行します。

bash

lspci -nn | grep -i hailo
lsmod | grep hailo
hailortcli --version
ls -l /dev/hailo0
sudo hailortcli fw-control identify

期待される結果：PCIe デバイスが Hailo-8 として認識され、Hailo PCIe ドライバがロードされており、/dev/hailo0 が存在すること。ホストにインストールされている HailoRT のリリースは、イメージと HEF が想定するリリースと一致している必要があります。

2. モデルイメージの取得

AI Lab の該当モデルカードに表示されている正確なイメージを使用してください。

bash

sudo docker pull ghcr.io/seeed-projects/recomputer-hailo8-cv/<model>:latest

3. モデルの実行

これは標準的な Hailo-8 コンテナ構成です。プレースホルダーをモデルカードのコマンドに置き換えてください。Hailo-10H のイメージや HEF を使用しないでください。

bash

sudo docker run --rm \
  --name cm5-hailo8-<model> \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/<model>:latest \
  python web_detection.py --model_path model/<model>.hef --video_path video/test.mp4

サービスが起動したら、ブラウザーで http://<BOARD_IP>:8000 を開きます。モデルカードのコマンドで別のポートや入力ソースが指定されている場合は、その値を優先してください。

4. よくある問題の診断

症状	確認事項
`/dev/hailo0` が存在しない	`lspci`、PCIe ドライバを確認し、ドライバインストール後に再起動してください。
`HAILO_DRIVER_OPERATION_FAILED`	ホストのドライバ/ランタイム、PCIe 接続、電源状態を確認してください。
`libhailort.so` のロードエラー	バージョン付きのホストライブラリと、上記で示したバージョンなしのシンボリックリンクをマウントしてください。
モデルが起動しない	イメージ、HEF、HailoRT のメジャーリリース、モデル固有のコマンドがすべて Hailo-8 を対象としていることを確認してください。

5. 新しいモデルを公開する前に

物理 Hailo-8 ハードウェア上でイメージをテストし、正確なコマンドをモデルの README と AI Lab Wiki に記録して、モデルカードの downloadSources に GHCR パッケージ URL を設定します。