← Modèles

SOUND / Whisper

Whisper

Jetson AGX Orin

Modèle de reconnaissance vocale robuste via OpenAI Whisper.

245 téléchargements
Taille
~49MB+162.6MB
Mémoire
2GB+
Précision
INT8

Choisissez l'appareil que vous utilisez. Le guide de configuration et la documentation seront mis à jour en conséquence.

Pour commencer

Déployer
# Docker command for rknn on jetson-agx-orin
sudo docker run -it --rm \
  <image>:latest \
  <serve> whisper

API REST

Utilisez l'API REST pour exécuter l'inférence. Copiez les commandes ci-dessous.

Curl
curl -X POST "http://127.0.0.1:8000/api/models/whisper/task" -F "file=@/home/user/audio/long_podcast.wav" -F "language=zh"
Python
import requests
import json
resp = requests.post(
    "http://127.0.0.1:8000/api/models/whisper/predict",
    files={"file": open("/home/user/audio/test_en.wav", "rb")},
    data={"language": "en"},
    timeout=30
)
result = resp.json()
print(json.dumps(result, indent=2, ensure_ascii=False))

Détails du modèle

reComputer Jetson

Déploiement Jetson en une commande

Exécutez la commande dans le bloc Mise en route directement sur un appareil Jetson ou reComputer Jetson.

bash
python3 -m pip install -U jetson-examples && reComputer run <demo-name>

La commande installe ou met à niveau le paquet Python jetson-examples depuis PyPI, puis exécute le script de démonstration sélectionné via le CLI reComputer.

Prérequis

  • Appareil NVIDIA Jetson ou reComputer Jetson.
  • Version JetPack/L4T prise en charge par la démonstration sélectionnée.
  • Accès Internet pour les paquets PyPI, images Docker, poids de modèles ou ressources externes utilisées par la démonstration.
  • Docker et le runtime de conteneur NVIDIA lorsque la démonstration sélectionnée utilise des conteneurs.
  • Espace disque et mémoire suffisants pour la démonstration sélectionnée. La fiche du modèle indique la principale exigence en ressources lorsqu'elle est connue à partir de la configuration de la démonstration.

Flux de travail

  1. Copiez la commande de déploiement depuis la boîte de dialogue Run ou la page de détails.
  2. Exécutez-la dans un terminal sur l'appareil Jetson cible.
  3. Suivez les invites affichées par le script de démonstration.
  4. Ouvrez l'URL affichée dans le terminal si la démonstration démarre une interface web ou un service API.

Remarques

  • reComputer run <demo-name> exécute d'abord init.sh de la démonstration lorsqu'il est disponible, puis démarre run.sh.
  • Pour inspecter toutes les démonstrations packagées sur l'appareil, exécutez :
bash
reComputer list
  • Pour supprimer les données de démonstration lorsqu'un script de nettoyage existe, exécutez :
bash
reComputer clean <demo-name>