← Modellen

SOUND / Whisper

Whisper

Jetson AGX Orin

Robuust spraakherkenningsmodel via OpenAI Whisper.

245 downloads
Grootte
~49MB+162.6MB
Geheugen
2GB+
Precisie
INT8

Kies het apparaat dat je gebruikt. De installatiehandleiding en documentatie worden dienovereenkomstig bijgewerkt.

Aan de slag

Implementeren
# Docker command for rknn on jetson-agx-orin
sudo docker run -it --rm \
  <image>:latest \
  <serve> whisper

REST API

Gebruik de REST API om inferentie uit te voeren. Kopieer de onderstaande commando's.

Curl
curl -X POST "http://127.0.0.1:8000/api/models/whisper/task" -F "file=@/home/user/audio/long_podcast.wav" -F "language=zh"
Python
import requests
import json
resp = requests.post(
    "http://127.0.0.1:8000/api/models/whisper/predict",
    files={"file": open("/home/user/audio/test_en.wav", "rb")},
    data={"language": "en"},
    timeout=30
)
result = resp.json()
print(json.dumps(result, indent=2, ensure_ascii=False))

Modeldetails

reComputer Jetson

Jetson Eén-Commando Deployment

Voer de opdracht in het Getting Started-blok rechtstreeks uit op een Jetson- of reComputer Jetson-apparaat.

bash
python3 -m pip install -U jetson-examples && reComputer run <demo-name>

De opdracht installeert of upgradet het jetson-examples Python-pakket vanaf PyPI en voert vervolgens het geselecteerde demoscript uit via de reComputer CLI.

Vereisten

  • NVIDIA Jetson- of reComputer Jetson-apparaat.
  • JetPack/L4T-versie ondersteund door de geselecteerde demo.
  • Internettoegang voor PyPI-pakketten, Docker-images, modelgewichten of externe assets die door de demo worden gebruikt.
  • Docker en NVIDIA container runtime wanneer de geselecteerde demo containers gebruikt.
  • Voldoende schijfruimte en geheugen voor de geselecteerde demo. De modelkaart vermeldt de belangrijkste resourcevereisten wanneer deze bekend zijn uit de demo-configuratie.

Workflow

  1. Kopieer de deployment-opdracht uit het Run-dialoogvenster of de detailpagina.
  2. Voer deze uit in een terminal op het doel-Jetson-apparaat.
  3. Volg eventuele prompts die door het demoscript worden weergegeven.
  4. Open de URL die in de terminal wordt weergegeven als de demo een web-UI of API-service start.

Opmerkingen

  • reComputer run <demo-name> voert eerst de init.sh van de demo uit indien beschikbaar, en start vervolgens run.sh.
  • Om alle verpakte demo's op het apparaat te bekijken, voer uit:
bash
reComputer list
  • Om demo-data te verwijderen wanneer een opschoningsscript bestaat, voer uit:
bash
reComputer clean <demo-name>