← 模型

SOUND / 语音识别

Whisper

Jetson Orin NX

OpenAI Whisper 语音识别模型，支持多语言语音转文字。

245 次下载
大小
~49MB+162.6MB
内存
2GB+
精度
INT8

选择你正在使用的设备，设置指南和文档将相应更新。

快速开始

部署
# Docker command for rknn on jetson-orin-nx
sudo docker run -it --rm \
  <image>:latest \
  <serve> whisper

REST API

使用 REST API 进行推理。复制以下命令。

Curl
curl -X POST "http://127.0.0.1:8000/api/models/whisper/task" -F "file=@/home/user/audio/long_podcast.wav" -F "language=zh"
Python
import requests
import json
resp = requests.post(
    "http://127.0.0.1:8000/api/models/whisper/predict",
    files={"file": open("/home/user/audio/test_en.wav", "rb")},
    data={"language": "en"},
    timeout=30
)
result = resp.json()
print(json.dumps(result, indent=2, ensure_ascii=False))

模型详情

reComputer Jetson

Jetson 一键部署

直接在 Jetson 或 reComputer Jetson 设备上运行 快速开始 区块中的命令。

bash
python3 -m pip install -U jetson-examples && reComputer run <demo-name>

该命令会从 PyPI 安装或升级 jetson-examples Python 包，然后通过 reComputer CLI 运行选定的演示脚本。

环境要求

  • NVIDIA Jetson 或 reComputer Jetson 设备。
  • 所选演示支持的 JetPack/L4T 版本。
  • 互联网访问，用于下载 PyPI 包、Docker 镜像、模型权重或演示使用的外部资源。
  • 当所选演示使用容器时，需要 Docker 和 NVIDIA 容器运行时。
  • 足够的磁盘和内存空间。模型卡片中列出了已知的主要资源需求。

工作流程

  1. 从 Run 弹窗或详情页复制部署命令。
  2. 在目标 Jetson 设备的终端中运行该命令。
  3. 按照演示脚本打印的任何提示进行操作。
  4. 如果演示启动了 Web UI 或 API 服务，打开终端中显示的 URL。

注意事项

  • reComputer run <demo-name> 会先运行演示的 init.sh（如果存在），然后启动 run.sh。
  • 要查看设备上所有打包的演示，运行：
bash
reComputer list
  • 当存在清理脚本时，要删除演示数据，运行：
bash
reComputer clean <demo-name>