NanoDet-RepVGG-a12

NanoDet-RepVGG-a12 在 reComputer R Series（CM5 + Hailo-8）上运行

nanodet_repvgg_a12 通过 HailoRT 在 Hailo-8 上执行 COCO 80 类目标检测。尽管名为“nanodet”，该变体实际基于 YOLOX 架构（base/yolox.yaml），输入为 640x640。NMS 在片上执行（Hailo HPP，meta_arch=yolox），主机仅解析 NMS 后的张量。

本页面向配备 PCIe Hailo-8 加速器的 reComputer R Series（CM5 + Hailo-8）。

模型信息

精度值来自 Hailo Model Zoo 的参考数据，不是在 CM5 上实测的基准结果。

硬件与主机设置

在主机上安装 Hailo-8 软件包，并在启动容器前确认驱动和设备已就绪：

sudo apt update
sudo apt install hailort hailort-pcie-driver python3-hailort
sudo reboot

# 重启后
hailortcli --version
hailortcli fw-control identify
ls -l /dev/hailo0

该镜像预期的 HailoRT 版本为 4.23.x。

使用演示视频运行

sudo docker run --rm \
  --name cm5-hailo8-nanodet-repvgg-a12 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/nanodet_repvgg_a12:latest \
  python web_detection.py --model_path model/nanodet_repvgg_a12.hef --video_path video/test.mp4

打开 http://<Board_IP>:8000 查看网页预览。

USB 摄像头模式

sudo docker run --rm \
  --name cm5-hailo8-nanodet-repvgg-a12 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  --device /dev/video0:/dev/video0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/nanodet_repvgg_a12:latest \
  python web_detection.py --model_path model/nanodet_repvgg_a12.hef --camera_id 0

REST API

预测端点：

POST http://<Board_IP>:8000/api/models/nanodet_repvgg_a12/predict

图像请求示例：

curl -X POST "http://<Board_IP>:8000/api/models/nanodet_repvgg_a12/predict" \
  -F "file=@test.jpg"

实现说明

• 与 nanodet_repvgg 使用相同的片上 NMS（HPP）后处理（解析 80 类 HPP），但此变体采用 base/yolox.yaml：meta_arch=yolox、640x640 输入，以及 padding_color=114（灰色，遵循 YOLOX 惯例）。
• HEF 在片上执行 NMS（device_pre_post_layers: nms=true, hpp=true）；应用仅解析 NMS 后的张量（遵循官方 tf_postproc_nms），因此忽略 nms_thresh（仅保留 API 一致性）。
• NMS 后的行格式为 [ymin, xmin, ymax, xmax, score]，相对于 640x640 letterbox 输入归一化至 [0,1]；应用将其缩放为像素坐标并去除 letterbox 影响。
• normalize_in_net 不作变换（mean=0/std=1）+ 片上 input_conversion(bgr_to_rgb)：应用使用灰色（114）填充进行 letterbox，输入原始 uint8 BGR 像素，不手动归一化，也不调用 cvtColor。
• HailoRT 以按类别划分的不等长列表（NMS-by-score）返回 NMS vstream；解析器还支持 object/dense 布局。首次推理记录原始类型和形状，便于在硬件上验证。
• 类别映射：cls_id（0..79）直接映射到标准 COCO 80 类列表（labels_offset=1 仅用于评估；若标签错位，应依据首次推理日志重新推导）。
• 默认值：置信度 0.25，IOU 0.45（片上 NMS，因此 IOU 无影响）。Model Zoo 评估使用 0.01 / 0.65；降低置信度滑块可查看更多结果。

开发说明

• 源码模块： src/rpi5_hailo8_nanodet_repvgg_a12/
• Dockerfile: docker/hailo8/nanodet_repvgg_a12.dockerfile
• 容器： ghcr.io/seeed-projects/recomputer-hailo8-cv/nanodet_repvgg_a12:latest
• 模块使用 HailoRT 4.23 VStreams API 和 Hailo-8 专用 HEF。
• 系列：nanodet（变体：nanodet_repvgg / nanodet_repvgg_a12 / nanodet_repvgg_a1_640）；此处为 nanodet_repvgg_a12 构建。