4.9 DeepStream と Jetson

なぜこれが重要か

このコースのこの段階で、学習者はコンピュータビジョンタスク、モデル訓練、エクスポート、リアルタイムパイプラインを理解しています。次のステップは、これらのアイデアが実用的なエッジ AI システムへとスケールしていく様子を見ることです。

ここで DeepStream と Jetson が重要になります。

DeepStream は単なるデモツールではありません。高性能なストリーミング解析システムを構築するためのフレームワークです。Jetson デバイス上では、カメラ入力、推論、トラッキング、メタデータ、システムサービスを、より本番志向のアーキテクチャへと結びつける手助けをします。

学習目標

このセクションを終えるとき、次のことができるようになるはずです。

  • DeepStream とは何か、なぜそれが重要かを説明できる
  • なぜ Jetson が強力なエッジ AI プラットフォームであるかを理解する
  • JPS、VST、Redis、Ingress、Analytics の役割を説明する
  • マルチストリームシステムと単一ストリームのデモがどう違うかを理解する
  • 基本的な DeepStream/JPS 指向のワークフローを実行・確認できる

コアコンセプト / 理論

なぜエッジビジョンに Jetson か

Jetson デバイスは、ローカル推論が重要なエッジ AI ワークロード向けに設計されています。Jetson を使う一般的な理由には次のものがあります。

  • 低レイテンシのローカル処理
  • クラウド依存の低減
  • 組み込みハードウェア上での GPU アクセラレーション
  • リアルタイム映像解析のサポート

DeepStream が追加するもの

カメラを読み込んでモデルを実行する単純なスクリプトと比べて、DeepStream は次を提供します。

  • ハードウェアアクセラレーションされたデコード
  • バッチに適した処理
  • 統合されたトラッキング
  • メタデータ生成
  • マルチストリーム解析へのより良いサポート

Jetson Platform Services が追加するもの

Jetson Platform Services はパイプラインの周りにサービス指向のレイヤを追加します。

重要なコンポーネント:

  • VST:ストリームのオンボーディングと映像処理向け
  • Redis:メタデータとサービス間通信向け
  • Ingress:統一された外部アクセス向け
  • Analytics:ROI やライン越えなどのルール向け

デモからシステムへ

単一のデモスクリプトはしばしば次に答えるだけです。

  • 1 つのカメラを読めるか
  • 1 つのモデルを実行できるか

システムレベルのデプロイは、さらに多くのことに答えなければなりません。

  • 複数ストリームへスケールできるか
  • メタデータを管理できるか
  • 不安定さから回復できるか
  • オペレータや他のアプリケーションにサービスを公開できるか

これが本セクションが導入するシステム的な考え方です。

主要用語

  • DeepStream:NVIDIA のストリーミング解析フレームワーク
  • JPS:Jetson Platform Services
  • VST:Video Storage Toolkit
  • Redis:メタデータのバックボーンとしてよく使われるインメモリデータストア
  • Ingress:外部サービスアクセスのためのルーティングレイヤ
  • Analytics:ルールベースのイベントロジック用サービス

ワーク例 / コード例

コアサービスの起動

bash
sudo systemctl start jetson-redis
sudo systemctl start jetson-ingress
sudo systemctl start jetson-vst

JPS サービスの存在確認

bash
ls /opt/nvidia/jetson/services
systemctl status jetson-redis
systemctl status jetson-vst

典型的な DeepStream サンプル実行

bash
deepstream-app -c /opt/nvidia/deepstream/deepstream/samples/configs/deepstream-app/source30_1080p_dec_infer-resnet_tiled_display_int8.txt

管理されたストリームパスの確認

bash
gst-launch-1.0 rtspsrc location=rtsp://<jetson-ip>:8554/<stream> latency=200 ! \
  rtph264depay ! h264parse ! avdec_h264 ! videoconvert ! autovideosink

よくある誤解

  • 「DeepStream はベンチマーク用だけだ。」
    • ストリーミング解析向けのシステム構築フレームワークでもあります。
  • 「1 つのカメラが動けば、マルチストリームのデプロイはその拡大版にすぎない。」
    • マルチストリームシステムはスケジューリング、メタデータ、安定性の課題を伴います。
  • 「Jetson のデプロイはモデル変換に関するものでしかない。」
    • デプロイには入力管理、サービス、監視、イベントロジックも含まれます。

演習 / 振り返り

  1. DeepStream がシンプルな OpenCV 推論スクリプトとどう違うか、自分の言葉で説明してください。
  2. マルチストリームのデプロイが単一ストリームのデモより難しい理由を 3 つ挙げてください。
  3. camera -> DeepStream -> tracking -> metadata -> analytics がどのように流れるかを示すシンプルなブロック図を描いてください。
  4. クラウド処理だけでなく Jetson のローカルデプロイを学習者が選ぶべき場面について考察してください。

まとめ

DeepStream と Jetson はコンピュータビジョンを完全なエッジシステムへと変えます。本セクションは、1 つのストリームで 1 つのモデルを動かすという考え方から、スケーラブルでサービスベースの映像解析を考える思考へと、学習者を移行させる助けとなります。

推奨される次のステップ

4.10 フロンティアビジョン技術と展望 に進み、その後 reComputer 上の AI NVR 付録 を探索してください。

参考資料