CV / YOLOX

YOLOX

reComputer R Series (CM5 + Hailo-8)

在 reComputer RK3576、RK3588 和搭载 Hailo-8 或 Hailo-10H 的 CM5 上运行 YOLOX COCO 目标检测。

207 次下载

大小

5.5 MB

内存

4GB+

精度

RKNN / Hailo HEF

选择你正在使用的设备，设置指南和文档将相应更新。

平台

尺寸

推理引擎

快速开始

部署

sudo docker run --rm \
  --name cm5-hailo8-yolox-tiny \
  --privileged \
  --net=host \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/yolox_tiny:latest \
  python web_detection.py --model_path model/yolox_tiny.hef --video_path video/test.mp4

REST API

使用 REST API 进行推理。复制以下命令。

Curl

curl http://localhost:8080/v1/chat/completions -d '{
  "model": "yolox-rknn",
  "messages": [{"role": "user", "content": "Hello"}]
}'

Python

import requests

resp = requests.post(
    "http://localhost:8080/v1/chat/completions",
    json={"model": "yolox-rknn", "messages": [{"role": "user", "content": "Hello"}]},
)
print(resp.json())

模型详情

reComputer R Series (CM5 + Hailo-8)

YOLOX 在 reComputer R Series（CM5 + Hailo-8）上运行

Hailo-8 的 YOLOX 服务提供 COCO 80 类目标检测，NMS 在片上完成（Hailo HPP）。HEF 直接输出解码后的检测结果，FastAPI 应用提供图片推理、视频与摄像头输入以及 MJPEG 预览。

模型信息

变体	输入	打包 HEF	容器镜像
YOLOX-Tiny	416x416x3 RGB	5.5 MB	`yolox_tiny`
YOLOX-S-Leaky	640x640x3 RGB	9.0 MB	`yolox_s_leaky`
YOLOX-L-Leaky	640x640x3 RGB	53 MB	`yolox_l_leaky`

三个变体都使用 Hailo Model Zoo v2.19.0 的 Hailo-8 HEF，并已在 CM5 + Hailo-8 上验证。

硬件与主机设置

项目	值
开发板	reComputer R Series 搭配 Raspberry Pi CM5
加速器	Hailo-8（PCIe 接口），以 `/dev/hailo0` 暴露
运行时	HailoRT 4.23.x
容器内 Python	3.11, aarch64

宿主机驱动、固件、原生 HailoRT 库与容器内 Python wheel 的 HailoRT 主次版本必须一致。

bash

sudo apt update
sudo apt install hailo-all -y
sudo reboot

hailortcli fw-control identify
ls /dev/hailo0

使用演示视频运行

YOLOX-Tiny

bash

sudo docker run --rm --privileged --net=host \
  --name cm5-hailo8-yolox-tiny \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/yolox_tiny:latest \
  python web_detection.py --model_path model/yolox_tiny.hef --video_path video/test.mp4

YOLOX-S-Leaky

bash

sudo docker run --rm --privileged --net=host \
  --name cm5-hailo8-yolox-s-leaky \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/yolox_s_leaky:latest \
  python web_detection.py --model_path model/yolox_s_leaky.hef --video_path video/test.mp4

YOLOX-L-Leaky

bash

sudo docker run --rm --privileged --net=host \
  --name cm5-hailo8-yolox-l-leaky \
  -e PYTHONUNBUFFERED=1 \
  --device /dev/hailo0:/dev/hailo0 \
  -v /usr/lib/libhailort.so.4.23.0:/usr/lib/libhailort.so.4.23.0:ro \
  -v /usr/lib/libhailort.so:/usr/lib/libhailort.so:ro \
  ghcr.io/seeed-projects/recomputer-hailo8-cv/yolox_l_leaky:latest \
  python web_detection.py --model_path model/yolox_l_leaky.hef --video_path video/test.mp4

浏览器打开 http://<BOARD_IP>:8000 查看网页预览。

REST API

每个变体提供各自的预测接口：

变体	接口
YOLOX-Tiny	`POST /api/models/yolox_tiny/predict`
YOLOX-S-Leaky	`POST /api/models/yolox_s_leaky/predict`
YOLOX-L-Leaky	`POST /api/models/yolox_l_leaky/predict`

bash

curl -X POST "http://<BOARD_IP>:8000/api/models/yolox_tiny/predict" \
  -F "file=@test.jpg"

响应包含 COCO 类别 ID、置信度和检测框。

开发说明

变体	源码	Dockerfile
YOLOX-Tiny	`src/rpi5_hailo8_yolox_tiny/`	`docker/hailo8/yolox_tiny.dockerfile`
YOLOX-S-Leaky	`src/rpi5_hailo8_yolox_s_leaky/`	`docker/hailo8/yolox_s_leaky.dockerfile`
YOLOX-L-Leaky	`src/rpi5_hailo8_yolox_l_leaky/`	`docker/hailo8/yolox_l_leaky.dockerfile`

输入与输出

Input: image, video frame, or camera frame. Output: COCO classes, confidence scores, and boxes.