Hailo-8 运行时环境配置与 CV 模型部署

验证 Hailo-8 运行时和设备,然后在 reComputer R Series 上部署经过测试的 AI Lab CV 模型。


参考本指南,验证 Hailo-8 运行时,并在搭载 PCIe Hailo-8 加速器的 Raspberry Pi CM5 上部署 AI Lab CV 模型。本页面涵盖通用的 设备、运行时和容器工作流程。与具体模型相关的镜像名称、HEF 名称 以及后处理参数,请查阅各模型卡片。

1. 验证设备

在启动容器之前,请在 Raspberry Pi 上执行以下命令:

bash
lspci -nn | grep -i hailo
lsmod | grep hailo
hailortcli --version
ls -l /dev/hailo0
sudo hailortcli fw-control identify

预期结果:PCIe 设备被识别为 Hailo-8,Hailo PCIe 驱动已加载, 且 /dev/hailo0 存在。主机上安装的 HailoRT 版本必须与镜像及 HEF 所要求的版本一致。

2. 拉取模型镜像

请使用相关 AI Lab 模型卡片上显示的精确镜像:

bash
sudo docker pull ghcr.io/seeed-projects/recomputer-hailo8-cv/<model>:latest

3. 运行模型

这是标准的 Hailo-8 容器形态。请将占位符替换为 模型卡片中的命令;不要替换为 Hailo-10H 镜像或 HEF。

bash
sudo docker run --rm \
  --name cm5-hailo8-<model> \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/<model>:latest \
  python web_detection.py --model_path model/<model>.hef --video_path video/test.mp4

服务启动后,在浏览器中打开 http://<BOARD_IP>:8000。模型卡片 会说明任何额外参数,例如用于多阶段流水线的第二个检测器 HEF。

4. 常见故障诊断

症状检查项
/dev/hailo0 不存在检查 lspci、PCIe 驱动,并在安装驱动后重启。
HAILO_DRIVER_OPERATION_FAILED确认主机驱动/运行时、PCIe 连接和电源状态。
libhailort.so 加载错误挂载版本化主机库及上述未版本化的符号链接。
模型无法启动验证镜像、HEF、HailoRT 主要版本和模型特定命令均针对 Hailo-8。

5. 发布新模型前的准备

在物理 Hailo-8 硬件上测试镜像,将确切命令记录在模型 README 和 AI Lab Wiki 中, 并在模型卡片的 downloadSources 中配置 GHCR 包 URL。

card's downloadSources.