← Modelle

SOUND / Whisper

Whisper

Jetson AGX Orin

Robustes Spracherkennungsmodell via OpenAI Whisper.

245 Downloads
Größe
~49MB+162.6MB
Speicher
2GB+
Präzision
INT8

Wähle das Gerät, das du verwendest. Die Einrichtungsanleitung und Dokumentation werden entsprechend aktualisiert.

Erste Schritte

Bereitstellen
# Docker command for rknn on jetson-agx-orin
sudo docker run -it --rm \
  <image>:latest \
  <serve> whisper

REST API

Verwende die REST API für die Inferenz. Kopiere die folgenden Befehle.

Curl
curl -X POST "http://127.0.0.1:8000/api/models/whisper/task" -F "file=@/home/user/audio/long_podcast.wav" -F "language=zh"
Python
import requests
import json
resp = requests.post(
    "http://127.0.0.1:8000/api/models/whisper/predict",
    files={"file": open("/home/user/audio/test_en.wav", "rb")},
    data={"language": "en"},
    timeout=30
)
result = resp.json()
print(json.dumps(result, indent=2, ensure_ascii=False))

Modelldetails

reComputer Jetson

Jetson-One-Command-Bereitstellung

Fuehren Sie den Befehl im Getting Started-Block direkt auf einem Jetson- oder reComputer Jetson-Geraet aus.

bash
python3 -m pip install -U jetson-examples && reComputer run <demo-name>

Der Befehl installiert oder aktualisiert das jetson-examples-Python-Paket von PyPI und fuehrt dann das ausgewaehlte Demo-Skript ueber die reComputer-CLI aus.

Anforderungen

  • NVIDIA Jetson oder reComputer Jetson-Geraet.
  • JetPack/L4T-Version, die vom ausgewaehlten Demo unterstuetzt wird.
  • Internetzugang fuer PyPI-Pakete, Docker-Images, Modellgewichte oder externe Ressourcen, die vom Demo verwendet werden.
  • Docker und NVIDIA-Container-Runtime, wenn das ausgewaehlte Demo Container verwendet.
  • Ausreichend Speicherplatz und Arbeitsspeicher fuer das ausgewaehlte Demo. Die Modellkarte listet die wichtigsten Ressourcenanforderungen auf, sofern sie aus der Demo-Konfiguration bekannt sind.

Arbeitsablauf

  1. Kopieren Sie den Bereitstellungsbefehl aus dem Ausfuehren-Dialog oder der Detailseite.
  2. Fuehren Sie ihn in einem Terminal auf dem Ziel-Jetson-Geraet aus.
  3. Befolgen Sie alle vom Demo-Skript angezeigten Eingabeaufforderungen.
  4. Oeffnen Sie die im Terminal angezeigte URL, wenn das Demo eine Web-UI oder einen API-Dienst startet.

Hinweise

  • reComputer run <demo-name> fuehrt zuerst die init.sh des Demos aus (falls vorhanden) und startet dann run.sh.
  • Um alle verpackten Demos auf dem Geraet anzuzeigen, fuehren Sie aus:
bash
reComputer list
  • Um Demo-Daten zu entfernen, wenn ein Bereinigungsskript existiert, fuehren Sie aus:
bash
reComputer clean <demo-name>