4.9 DeepStream y Jetson

Por qué esto importa

En este punto del curso, el alumno comprende las tareas de visión por computadora, el entrenamiento de modelos, la exportación y los pipelines en tiempo real. El siguiente paso es ver cómo esas ideas se escalan a un sistema práctico de IA en el edge.

Aquí es donde DeepStream y Jetson se vuelven importantes.

DeepStream no es solo otra herramienta de demostración. Es un framework para construir sistemas de analítica de streaming de alto rendimiento. En los dispositivos Jetson, ayuda a conectar la entrada de cámara, la inferencia, el seguimiento, los metadatos y los servicios del sistema en una arquitectura más cercana a la producción.

Objetivos de aprendizaje

Al final de esta sección, deberías ser capaz de:

  • explicar qué es DeepStream y por qué importa
  • entender por qué Jetson es una plataforma sólida de IA en el edge
  • describir los roles de JPS, VST, Redis, Ingress y Analytics
  • entender en qué se diferencian los sistemas multistream de las demos de un solo stream
  • ejecutar e inspeccionar un flujo de trabajo básico orientado a DeepStream/JPS

Conceptos clave / Teoría

Por qué Jetson para visión en el edge

Los dispositivos Jetson están diseñados para cargas de trabajo de IA en el edge donde la inferencia local importa. Razones comunes para usar Jetson incluyen:

  • procesamiento local de baja latencia
  • reducción de la dependencia de la nube
  • aceleración por GPU en hardware embebido
  • soporte para analítica de vídeo en tiempo real

Qué añade DeepStream

En comparación con un script simple que lee una cámara y ejecuta un modelo, DeepStream proporciona:

  • decodificación acelerada por hardware
  • procesamiento amigable con batches
  • seguimiento integrado
  • generación de metadatos
  • mejor soporte para analítica multistream

Qué añade Jetson Platform Services

Jetson Platform Services agrega una capa orientada a servicios alrededor del pipeline.

Componentes importantes incluyen:

  • VST para la incorporación de streams y manejo de vídeo
  • Redis para metadatos y comunicación entre servicios
  • Ingress para acceso externo unificado
  • Analytics para reglas como ROI y cruce de líneas

De demo a sistema

Un único script de demostración suele responder a:

  • ¿puedo leer una cámara?
  • ¿puedo ejecutar un modelo?

Un despliegue a nivel de sistema debe responder a más:

  • ¿puedo escalar a múltiples streams?
  • ¿puedo gestionar metadatos?
  • ¿puedo recuperarme de la inestabilidad?
  • ¿puedo exponer servicios a operadores y otras aplicaciones?

Esa es la mentalidad de sistema que esta sección introduce.

Términos clave

  • DeepStream: framework de analítica de streaming de NVIDIA
  • JPS: Jetson Platform Services
  • VST: Video Storage Toolkit
  • Redis: almacén de datos en memoria usado a menudo como backbone de metadatos
  • Ingress: capa de enrutamiento para acceso a servicios externos
  • Analytics: servicio para lógica de eventos basada en reglas

Ejemplo trabajado / Ejemplo de código

Iniciar servicios principales

bash
sudo systemctl start jetson-redis
sudo systemctl start jetson-ingress
sudo systemctl start jetson-vst

Comprobar que existen servicios JPS

bash
ls /opt/nvidia/jetson/services
systemctl status jetson-redis
systemctl status jetson-vst

Ejecución típica de muestra de DeepStream

bash
deepstream-app -c /opt/nvidia/deepstream/deepstream/samples/configs/deepstream-app/source30_1080p_dec_infer-resnet_tiled_display_int8.txt

Inspeccionar una ruta de stream gestionada

bash
gst-launch-1.0 rtspsrc location=rtsp://<jetson-ip>:8554/<stream> latency=200 ! \
  rtph264depay ! h264parse ! avdec_h264 ! videoconvert ! autovideosink

Errores comunes

  • "DeepStream es solo para benchmarking."
    • También es un framework de construcción de sistemas para analítica de streaming.
  • "Si una cámara funciona, el despliegue multistream es solo más de lo mismo."
    • Los sistemas multistream introducen problemas de planificación, metadatos y estabilidad.
  • "El despliegue en Jetson trata solo sobre convertir el modelo."
    • El despliegue también incluye gestión de entrada, servicios, monitorización y lógica de eventos.

Ejercicios / Reflexión

  1. Explica con tus propias palabras en qué se diferencia DeepStream de un simple script de inferencia con OpenCV.
  2. Lista tres razones por las que un despliegue multistream es más difícil que una demo de un solo stream.
  3. Dibuja un diagrama de bloques simple que muestre cómo podría fluir camera -> DeepStream -> tracking -> metadata -> analytics.
  4. Reflexiona sobre cuándo un alumno debería elegir el despliegue local en Jetson en lugar de un procesamiento solo en la nube.

Resumen

DeepStream y Jetson convierten la visión por computadora en un sistema completo de edge. Esta sección ayuda al alumno a pasar de pensar en un modelo en un stream a pensar en analítica visual escalable y basada en servicios.

Siguiente paso sugerido

Continúa con 4.10 Tecnologías de visión de frontera y perspectivas, y luego explora el apéndice AI NVR en reComputer.

Referencias