← モデル

SOUND / Whisper

Whisper

Jetson Orin NX

OpenAI Whisperによる堅牢な音声認識モデル

245 ダウンロード
サイズ
~49MB+162.6MB
メモリ
2GB+
精度
INT8

使用しているデバイスを選択してください。セットアップガイドとドキュメントがそれに応じて更新されます。

はじめる

デプロイ
# Docker command for rknn on jetson-orin-nx
sudo docker run -it --rm \
  <image>:latest \
  <serve> whisper

REST API

REST API を使用して推論を実行します。以下のコマンドをコピーしてください。

Curl
curl -X POST "http://127.0.0.1:8000/api/models/whisper/task" -F "file=@/home/user/audio/long_podcast.wav" -F "language=zh"
Python
import requests
import json
resp = requests.post(
    "http://127.0.0.1:8000/api/models/whisper/predict",
    files={"file": open("/home/user/audio/test_en.wav", "rb")},
    data={"language": "en"},
    timeout=30
)
result = resp.json()
print(json.dumps(result, indent=2, ensure_ascii=False))

モデル詳細

reComputer Jetson

Jetsonワンコマンドデプロイ

Getting StartedブロックのコマンドをJetsonまたはreComputer Jetsonデバイス上で直接実行します。

bash
python3 -m pip install -U jetson-examples && reComputer run <demo-name>

このコマンドはPyPIからjetson-examples Pythonパッケージをインストールまたはアップグレードし、reComputer CLIを通じて選択したデモスクリプトを実行します。

要件

  • NVIDIA JetsonまたはreComputer Jetsonデバイス。
  • 選択したデモがサポートするJetPack/L4Tバージョン。
  • PyPIパッケージ、Dockerイメージ、モデル重み、またはデモで使用される外部アセットのためのインターネットアクセス。
  • 選択したデモがコンテナを使用する場合、DockerおよびNVIDIAコンテナランタイム。
  • 選択したデモに十分なディスク容量とメモリ。モデルカードには、デモ設定から判明している場合の主要なリソース要件が記載されています。

ワークフロー

  1. 実行ダイアログまたは詳細ページからデプロイコマンドをコピーします。
  2. 対象のJetsonデバイス上のターミナルで実行します。
  3. デモスクリプトによって表示されるプロンプトに従います。
  4. デモがWeb UIまたはAPIサービスを起動する場合、ターミナルに表示されたURLを開きます。

注意事項

  • reComputer run <demo-name>は、利用可能な場合に最初にデモのinit.shを実行し、次にrun.shを起動します。
  • デバイス上のすべてのパッケージ化されたデモを確認するには、以下を実行します：
bash
reComputer list
  • クリーンアップスクリプトが存在する場合にデモデータを削除するには、以下を実行します：
bash
reComputer clean <demo-name>