Hailo-10H ランタイムのセットアップとCVモデルデプロイ

Hailo-10H ランタイムをインストールして検証し、reComputer R Series 上で検証済みの AI Lab CV モデルをデプロイします。

このガイドでは、PCIe Hailo-10H アクセラレータを搭載した Raspberry Pi CM5 上で Hailo-10H ランタイムをインストール・検証し、AI Lab CV モデルをデプロイする手順を説明します。このページでは、デバイス、ランタイム、コンテナの共通ワークフローを扱います。モデル固有の 引数は各モデルカードに記載されています。Hailo-10H は独自の HEF、イメージ、Python バインディング、HailoRT ライブラリを使用します。これらを Hailo-8 の成果物と混在させてはいけません。

1. ランタイムのインストールと検証

サポート対象の Raspberry Pi OS イメージ上で Hailo-10H ホストパッケージをインストールし、初回使用前に再起動します。

bash
sudo apt update
sudo apt install hailo-h10-all -y
sudo reboot

再接続後、ハードウェアを確認します。

bash
lspci -nn | grep -i hailo
lsmod | grep hailo
hailortcli --version
ls -l /dev/hailo0
sudo hailortcli fw-control identify

2. モデルイメージの取得

AI Lab モデルカードに表示されている正確な Hailo-10H イメージを使用します。

bash
sudo docker pull ghcr.io/seeed-projects/recomputer-hailo10h-cv/<model>:latest

3. モデルの実行

プレースホルダーをモデルカードのコマンドに置き換えてください。バージョン付きの HailoRT 共有ライブラリと、バージョンなしのシンボリックリンクの両方をマウントする必要があります。

bash
sudo docker run --rm \
  --name cm5-hailo10h-<model> \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.5.1.1:/usr/lib/libhailort.so.5.1.1:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo10h-cv/<model>:latest \
  python web_detection.py --model_path model/<model>.hef --video_path video/test.mp4

サービスが Web プレビューの準備完了を通知したら、http://<BOARD_IP>:8000 を開きます。 2 段階パイプラインの補助 HEF など、モデル固有の引数はモデルカードに従ってください。

4. よくある問題の診断

症状確認事項
/dev/hailo0 が存在しないlspci で Hailo-10H が認識されているか、ドライバがロードされているか確認し、インストール後に再起動してください。
Failed to open device file エラーデバイスの権限、コンテナの --device 引数、および HailoRT ホストのセットアップを確認してください。
HailoRT Python または共有ライブラリのエラーHailo-10H イメージを使用し、libhailort.so.5.1.1 と libhailort.so の両方をマウントしてください。
推論 API エラーイメージタグに固定アプリケーションコードが含まれており、HEF が Hailo-10H 専用であることを確認してください。

5. 新しいモデルを公開する前に

物理 Hailo-10H ハードウェア上でイメージとコマンドを検証します。その後、イメージパッケージを AI Lab の downloadSources エントリに追加し、ユーザーがプラットフォームを選択した後に 正しいコマンドを取得できるよう、Hailo-10H 専用 Wiki を作成します。