CV / NanoDet

NanoDet-RepVGG-a1-640

reComputer R Series (CM5 + Hailo-8)

COCO 80 类目标检测,nanodet_repvgg_a1_640(片上 NMS),适用于 reComputer R Series + Hailo-8 或 Hailo-10H。

70 次下载
大小
9.8 MB
内存
4GB+
精度
Hailo HEF / HailoRT

选择你正在使用的设备,设置指南和文档将相应更新。

快速开始

部署
sudo docker run --rm \
  --name cm5-hailo8-nanodet-repvgg-a1-640 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/nanodet_repvgg_a1_640:latest \
  python web_detection.py --model_path model/nanodet_repvgg_a1_640.hef --video_path video/test.mp4

REST API

使用 REST API 进行推理。复制以下命令。

Curl
curl -X POST "http://<Board_IP>:8000/api/models/nanodet_repvgg_a1_640/predict" \
  -F "file=@test.jpg"
Python
import requests

response = requests.post(
    "http://<Board_IP>:8000/api/models/nanodet_repvgg_a1_640/predict",
    files={"file": open("test.jpg", "rb")},
    timeout=30,
)
print(response.json())

模型详情

reComputer R Series (CM5 + Hailo-8)

NanoDet-RepVGG-a1-640 在 reComputer R Series(CM5 + Hailo-8)上运行

nanodet_repvgg_a1_640 通过 HailoRT 在 Hailo-8 上执行 COCO 80 类目标检测。它与 nanodet_repvgg 使用相同的基础配置(base/nanodet.yaml),但采用更大的 RepVGG-A1 骨干网络和 640x640 输入以提高精度。NMS 在片上执行(Hailo HPP,meta_arch=yolov8),主机仅解析 NMS 后的张量。

本页面向配备 PCIe Hailo-8 加速器的 reComputer R Series(CM5 + Hailo-8)。

模型信息

属性值
架构NanoDet + RepVGG-A1(base/nanodet.yaml)
任务目标检测
输入640x640x3 BGR(input_conversion bgr_to_rgb + normalize_in_net)
输出片上 NMS 张量,NMS 后形状为 80x5x100
类别数80(COCO,通过 meta_arch=yolov8 从 0 编号)
参数量10.79M
运算量42.8G
后处理片上 NMS(HPP);主机解析 NMS 后的张量
HEFHailo Model Zoo v2.19.0, Hailo-8

精度值来自 Hailo Model Zoo 的参考数据,不是在 CM5 上实测的基准结果。

硬件与主机设置

项目值
开发板配备 Raspberry Pi CM5 的 reComputer R Series
加速器Hailo-8 通过 PCIe 连接,设备为 /dev/hailo0
运行时HailoRT 4.23.x
容器内 Python3.11, aarch64

在主机上安装 Hailo-8 软件包,并在启动容器前确认驱动和设备已就绪:

bash
sudo apt update
sudo apt install hailort hailort-pcie-driver python3-hailort
sudo reboot

# 重启后
hailortcli --version
hailortcli fw-control identify
ls -l /dev/hailo0

该镜像预期的 HailoRT 版本为 4.23.x。

使用演示视频运行

bash
sudo docker run --rm \
  --name cm5-hailo8-nanodet-repvgg-a1-640 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/nanodet_repvgg_a1_640:latest \
  python web_detection.py --model_path model/nanodet_repvgg_a1_640.hef --video_path video/test.mp4

打开 http://<Board_IP>:8000 查看网页预览。

USB 摄像头模式

bash
sudo docker run --rm \
  --name cm5-hailo8-nanodet-repvgg-a1-640 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  --device /dev/video0:/dev/video0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/nanodet_repvgg_a1_640:latest \
  python web_detection.py --model_path model/nanodet_repvgg_a1_640.hef --camera_id 0

REST API

预测端点:

text
POST http://<Board_IP>:8000/api/models/nanodet_repvgg_a1_640/predict

图像请求示例:

bash
curl -X POST "http://<Board_IP>:8000/api/models/nanodet_repvgg_a1_640/predict" \
  -F "file=@test.jpg"
端点方法用途
/GET网页预览界面
/api/models/nanodet_repvgg_a1_640/predictPOST检测结果(JSON)
/api/video_feedGETMJPEG 预览流

实现说明

  • 与 nanodet_repvgg 使用相同的基础配置(base/nanodet.yaml)和片上 NMS(HPP)后处理;仅骨干网络(RepVGG-A1)和输入尺寸(640x640)不同。
  • HEF 在片上执行 NMS(device_pre_post_layers: nms=true, hpp=true,meta_arch=yolov8);应用仅解析 NMS 后的张量,因此忽略 nms_thresh(仅保留 API 一致性)。
  • NMS 后的行格式为 [ymin, xmin, ymax, xmax, score],相对于 640x640 letterbox 输入归一化至 [0,1];应用将其缩放为像素坐标并去除 letterbox 影响。
  • normalize_in_net + 片上 input_conversion(bgr_to_rgb):应用使用黑色(0)填充进行 letterbox,并输入原始 uint8 BGR 像素,不手动归一化,也不调用 cvtColor。
  • HailoRT 以按类别划分的不等长列表(NMS-by-score)返回 NMS vstream;解析器还支持 object/dense 布局。首次推理记录原始类型和形状,便于在硬件上验证。
  • 类别映射:cls_id(0..79)直接映射到标准 COCO 80 类列表。
  • 默认值:置信度 0.25,IOU 0.45(片上 NMS,因此 IOU 无影响)。Model Zoo 评估使用 0.05 / 0.6;降低置信度滑块可查看更多结果。

开发说明

  • 源码模块: src/rpi5_hailo8_nanodet_repvgg_a1_640/
  • Dockerfile: docker/hailo8/nanodet_repvgg_a1_640.dockerfile
  • 容器: ghcr.io/seeed-projects/recomputer-hailo8-cv/nanodet_repvgg_a1_640:latest
  • 模块使用 HailoRT 4.23 VStreams API 和 Hailo-8 专用 HEF。
  • 系列:nanodet(变体:nanodet_repvgg / nanodet_repvgg_a12 / nanodet_repvgg_a1_640);此处为 nanodet_repvgg_a1_640 构建。

输入与输出

Input: image, video, or USB camera frame. Output: COCO 80-class detection boxes with confidences, plus an annotated MJPEG preview.