Pytorch

Einführung

Die Bereitstellung von PyTorch-Modellen auf eingebetteten Edge-Geräten ist ein entscheidender Schritt zur Verwirklichung von KI-Anwendungen. Die NVIDIA Jetson-Plattform mit ihrer leistungsstarken GPU-Computing-Fähigkeit und umfassenden KI-Software-Stack ist zur idealen Wahl für die Ausführung von PyTorch-Modellen geworden.

Da Jetson jedoch auf der ARM-Architektur basiert, die sich von gängigen x86-Serverumgebungen unterscheidet, kann die Einrichtung einer PyTorch-Umgebung darauf nicht mit einem einfachen pip install-Befehl erreicht werden. Entwickler stehen oft vor Herausforderungen wie dem Finden der richtigen Version von vorkompilierten Paketen, der Verwaltung komplexer Abhängigkeiten und der Durchführung notwendiger Leistungsoptimierungen.

Dieser Artikel zielt darauf ab, eine klare und praktische Anleitung bereitzustellen, die sich darauf konzentriert, wie Sie die PyTorch-Umgebung auf der Jetson-Plattform schnell und korrekt konfigurieren können, um Ihre PyTorch-Entwicklung auf Jetson zu starten.


Bild von： pypi

PyTorch auf reComputer Nvidia Jetson installieren

Richten Sie Ihre Umgebung ein

  • JetPack 5/6: Stellen Sie sicher, dass NVIDIA JetPack 5 oder 6 auf Ihrem reComputer installiert ist. JetPack enthält die notwendigen Bibliotheken und Tools für die Entwicklung auf NVIDIA Jetson-Plattformen.

  • CUDA: Überprüfen Sie, ob CUDA installiert und korrekt konfiguriert ist. PyTorch ist auf CUDA für GPU-Beschleunigung angewiesen. Stellen Sie sicher, dass die installierte CUDA-Version mit der PyTorch-Version kompatibel ist, die Sie installieren möchten.

Geben Sie cat /etc/nv_tegra_release und nvcc -V in Ihrem Terminal ein. Wenn der zurückgegebene Inhalt ähnlich wie im Screenshot unten ist, bedeutet dies, dass die entsprechende Umgebung in Ihrem Jetson ordnungsgemäß installiert wurde.

PyTorch mit einer .whl-Datei installieren

Um PyTorch auf Ihrem reComputer mit den angegebenen JetPack- und CUDA-Versionen zu installieren, folgen Sie diesen Schritten:

Laden Sie die PyTorch-Wheel-Datei herunter

Wählen Sie die richtige Wheel-Datei basierend auf Ihrem JetPack, CUDA und Ihrer Python-Version:

Installieren Sie die Wheel-Datei

  1. Öffnen Sie ein Terminal:

    • Navigieren Sie zu dem Verzeichnis, in dem Sie die .whl-Datei heruntergeladen haben.

  2. Installieren Sie:

    bash
    sudo apt-get install python3-pip libopenblas-base libopenmpi-dev libomp-dev
pip3 install 'Cython<3'
pip3 install numpy
sudo pip3 install <filename>.whl

    Ersetzen Sie <filename> durch den Namen der heruntergeladenen .whl-Datei.

Installation überprüfen

Um zu überprüfen, ob PyTorch korrekt auf Ihrem System installiert wurde, starten Sie einen interaktiven Python-Interpreter vom Terminal und führen Sie die folgenden Befehle aus:

Code
```python
import torch
print(torch.__version__)
print('CUDA available: ' + str(torch.cuda.is_available()))
print('cuDNN version: ' + str(torch.backends.cudnn.version()))
a = torch.cuda.FloatTensor(2).zero_()
print('Tensor a = ' + str(a))
b = torch.randn(2).cuda()
print('Tensor b = ' + str(b))    
c = a + b
print('Tensor c = ' + str(c))
```
```python
import torchvision
print(torchvision.__version__)
```

Weitere Tutorial-Inhalte

TutorialTypBeschreibung
Offizielles PyTorch-TutorialDokumentEin offizielles PyTorch-Tutorial, das einen vollständigen Lernpfad bietet.
PyTorch-EntwicklungsdokumentationDokumentOffizielle PyTorch-Entwicklungsdokumentation von PyTorch.