CV / EfficientDet

EfficientDet-Lite0

EfficientDet-Lite0 通过 BiFPN 检测 Hailo-8 上的 80 个 COCO 目标类别。NMS 和 sigmoid 在芯片上运行（Hailo HPP），因此应用仅需解析 NMS 后的张量。EfficientDet 系列的 Lite0 变体。

2 次下载

大小

9.3 MB

内存

4GB+

精度

Hailo HEF / HailoRT 4.23.x

选择你正在使用的设备，设置指南和文档将相应更新。

平台

推理引擎

快速开始

部署

sudo docker run --rm \
  --name cm5-hailo8-efficientdet-lite0 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/efficientdet_lite0:latest \
  python web_detection.py --model_path model/efficientdet_lite0.hef --video_path video/test.mp4

REST API

使用 REST API 进行推理。复制以下命令。

Curl

curl -X POST "http://<Board_IP>:8000/api/models/efficientdet_lite0/predict" \
  -F "file=@test.jpg"

Python

import requests

response = requests.post(
    "http://<Board_IP>:8000/api/models/efficientdet_lite0/predict",
    files={"file": open("test.jpg", "rb")},
    timeout=30,
)
print(response.json())

模型详情

reComputer R Series（CM5 + Hailo-8）上的 EfficientDet-Lite0

EfficientDet-Lite0 通过 HailoRT 在 Hailo-8 上执行 COCO 80 类目标检测。 NMS 和 sigmoid 在芯片上运行（Hailo HPP），因此主机仅解析 NMS 后张量。这是 efficientdet 系列的 Lite0 变体。

本页面适用于配备 PCIe Hailo-8 加速器的 reComputer R Series（CM5 + Hailo-8） 。

模型信息

属性	值
架构	EfficientDet-Lite0（BiFPN）
任务	目标检测
输入	320x320x3 RGB（归一化已编译到 HEF 中：mean=127，std=128）
输出	芯片上 NMS 张量，NMS 后形状为 89x5x100
类别	89 个槽位（通过 labels_offset=1 对应 COCO 类别 ID 1..89；其中 10 个未使用）
参数量	3.56M
运算量	1.94G
后处理	芯片上 NMS（HPP）+ sigmoid；主机解析 NMS 后张量
HEF	Hailo Model Zoo v2.19.0，Hailo-8

准确率数值来自 Hailo Model Zoo 参考数据，并非在 CM5 上测得的基准测试结果。

硬件与主机设置

项目	值
开发板	搭载 Raspberry Pi CM5 的 reComputer R Series
加速器	通过 PCIe 连接的 Hailo-8，设备路径为 `/dev/hailo0`
运行时	HailoRT 4.23.x
容器内 Python	3.11，aarch64

在主机上安装 Hailo-8 软件包，并在启动容器前确认驱动程序和设备已准备就绪：

bash

sudo apt update
sudo apt install hailort hailort-pcie-driver python3-hailort
sudo reboot

# After reboot
hailortcli --version
hailortcli fw-control identify
ls -l /dev/hailo0

此镜像要求使用 HailoRT 4.23.x。

使用演示视频运行

bash

sudo docker run --rm \
  --name cm5-hailo8-efficientdet-lite0 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/efficientdet_lite0:latest \
  python web_detection.py --model_path model/efficientdet_lite0.hef --video_path video/test.mp4

打开 http://<Board_IP>:8000 查看 Web 预览。

USB 摄像头模式

bash

sudo docker run --rm \
  --name cm5-hailo8-efficientdet-lite0 \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  --device /dev/video0:/dev/video0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/efficientdet_lite0:latest \
  python web_detection.py --model_path model/efficientdet_lite0.hef --camera_id 0

REST API

预测端点：

text

POST http://<Board_IP>:8000/api/models/efficientdet_lite0/predict

图像请求示例：

bash

curl -X POST "http://<Board_IP>:8000/api/models/efficientdet_lite0/predict" \
  -F "file=@test.jpg"

端点	方法	用途
`/`	GET	Web 预览界面
`/api/models/efficientdet_lite0/predict`	POST	检测结果（JSON）
`/api/video_feed`	GET	MJPEG 预览流

实现说明

HEF 在芯片上运行 NMS（device_pre_post_layers: nms=true, sigmoid=true, hpp=true）；应用仅解析 NMS 后张量（按照官方 tf_postproc_nms），因此 nms_thresh 会被忽略（仅用于保持 API 一致性）。
NMS 后的行格式为 [ymin, xmin, ymax, xmax, score]，坐标已根据 320x320 信箱式缩放输入归一化至 [0,1]；应用将其缩放为像素坐标并还原信箱式缩放。
normalize_in_net 使用 mean=127/std=128，且 padding_color=127：应用使用灰色（127）填充进行信箱式缩放，并输入原始 uint8 RGB 像素，无需手动归一化。
HailoRT 可能以按类别列表（按分数执行 NMS）、对象数组或密集 float32 (1,89,5,100)/(1,89,100,5) 的形式返回 NMS vstream。解析器支持这三种形式；首次推理会记录原始类型/形状，以便在硬件上进行验证。
类别映射：cls_id（0..88）→ COCO 类别 ID cls_id+1 （labels_offset=1）；10 个未使用的 COCO ID 标记为“N/A”，且不会绘制。如果标签看起来有偏移，请根据首次推理日志重新推导映射关系。
默认值：置信度 0.25，IOU 0.45（IOU 不生效，因为 NMS 在芯片上运行）。Model Zoo 评估使用 0.001 / 0.5；可调低置信度滑块以查看更多结果。

开发说明

源模块：src/rpi5_hailo8_efficientdet_lite0/
Dockerfile：docker/hailo8/efficientdet_lite0.dockerfile
容器：ghcr.io/seeed-projects/recomputer-hailo8-cv/efficientdet_lite0:latest
该模块使用 HailoRT 4.23 VStreams API 和 Hailo-8 专用 HEF。
系列：efficientdet（计划提供 lite0 / lite1 / lite2 变体）；当前为 lite0 构建版本。

输入与输出

输入：图像、视频或 USB 摄像头帧。输出：带置信度的 COCO 80 类检测框，以及带标注的 MJPEG 预览。