Hailo-10H 运行时安装与 CV 模型部署

安装并验证 Hailo-10H 运行时,然后在 reComputer R Series 上部署已在 AI Lab 中验证过的 CV 模型。


使用本指南在配备 PCIe Hailo-10H 加速器的 Raspberry Pi CM5 上安装并验证 Hailo-10H 运行时,并部署 AI Lab 的 CV 模型。本页介绍通用设备、运行时和 容器工作流;模型专用参数保留在各模型卡片中。Hailo-10H 使用自己的 HEF、镜像、 Python 绑定和 HailoRT 库,不可与 Hailo-8 产物混用。

1. 安装并验证运行时

在受支持的 Raspberry Pi OS 镜像上,安装 Hailo-10H 主机软件包并在首次使用前 重启:

bash
sudo apt update
sudo apt install hailo-h10-all -y
sudo reboot

重新连接后,验证硬件:

bash
lspci -nn | grep -i hailo
lsmod | grep hailo
hailortcli --version
ls -l /dev/hailo0
sudo hailortcli fw-control identify

预期结果:PCIe 设备被识别为 Hailo-10H,且 /dev/hailo0 存在。如果不存在, 请在运行模型容器前解决驱动、PCIe 或电源问题。

2. 拉取模型镜像

使用 AI Lab 模型卡片上显示的精确 Hailo-10H 镜像:

bash
sudo docker pull ghcr.io/seeed-projects/recomputer-hailo10h-cv/<model>:latest

3. 运行模型

将占位符替换为模型卡片上的命令。必须同时挂载版本化的 HailoRT 共享库和 未版本化的符号链接。

bash
sudo docker run --rm \
  --name cm5-hailo10h-<model> \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.5.1.1:/usr/lib/libhailort.so.5.1.1:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo10h-cv/<model>:latest \
  python web_detection.py --model_path model/<model>.hef --video_path video/test.mp4

当服务提示 Web 预览已就绪时,打开 http://<BOARD_IP>:8000。模型专用参数(包括 两阶段流水线使用的辅助 HEF)请以模型卡片为准。

4. 诊断常见故障

症状检查项
/dev/hailo0 不存在确认 lspci 能检测到 Hailo-10H,驱动已加载,并在安装后重启。
Failed to open device file检查设备权限、容器 --device 参数以及 HailoRT 主机配置。
HailoRT Python 或共享库错误使用 Hailo-10H 镜像,并同时挂载 libhailort.so.5.1.1 和 libhailort.so。
推理 API 错误确认镜像标签包含固定的应用程序代码,且 HEF 是 Hailo-10H 专用的。

5. 发布新模型前

在物理 Hailo-10H 硬件上验证镜像和命令。然后在 AI Lab 中将镜像包添加为 downloadSources 条目,并创建专用的 Hailo-10H 维基页面,以便用户在选择 平台后获得正确的命令。