Das Team hinter PyTorch hat am 15. März 2023 Version 2.0 des Machine-Learning-Frameworks veröffentlicht. PyTorch 2.0 bringt zahlreiche Verbesserungen und Neuerungen mit sich. Zu den Highlights zählen die Beta-Version der torch.compile()-API und die verbesserte Integration von torch.nn.functional.

Neben der bewährten Entwicklung über den „eager mode“ gibt es nun die Möglichkeit, Modelle über den Befehl torch.compile zu kompilieren. Diese Änderung ermöglicht Leistungssteigerungen und ist vollständig abwärtskompatibel zur vorherigen Version. Der Versionssprung auf 2.x dient eher symbolischer Natur – ansonsten würde es eher einer Version 1.14 entsprechen.

Die Integration ist einfach und erfordert lediglich die Installation einer Nightly-Version und die Optimierung des Modells mit einer einzigen Codezeile:

model = torch.compile(model)

Version 2.0 bietet Leistungssteigerungen sowohl beim Training als auch bei der Inferenz und ist insbesondere für neuere GPU-Generationen optimiert. Neben der Hauptversion werden auch Beta-Updates für PyTorch-Domain-Bibliotheken wie TorchAudio, TorchVision und TorchText veröffentlicht. Weitere Informationen zu den Änderungen bei den Domain-Bibliotheken sind in einer gesonderten Pressemitteilung verfügbar. Für PyTorch 2.0 selber ist eine eigene Get-Started-Seite bereitgestellt worden.

PyTorch ist ein Machine-Learning-Framework unter der BSD-3-Lizenz, welches ursprünglich von Facebook AI (heute: Meta AI) 2016 veröffentlicht wurde und nun unter der Schirmherrschaft der Linux Foundation steht. Es baut auf das zwischenzeitlich eingestellte Torch auf, welches 2002 am EPFL in Lausanne in der Schweiz entstand. Heute steht PyTorch in Konkurrenz zu TensorFlow von Google und wird von verschiedenen Anwendungen eingesetzt, darunter Hugging Face Transformers, OpenAI Whisper oder der Tesla Autopilot.

Anwender, die die Machine-Learning-Bibliothek PyTorch als Nightly-Build zwischen dem 25. Dezember 2022 und dem 30. Dezember 2022 über “pip” auf Linux installiert haben, sollten ihn deinstallieren und die neuesten nächtlichen Binarys einspielen. Die Pakete hätten eine Abhängigkeit installiert, die im Python Package Index (PyPI) Code-Repository kompromittiert wurde und ein bösartiges Binärprogramm ausgeführt habe, melden die Entwickler.

Dieser Supply-Chain-Angriff betreffe direkt die Abhängigkeiten von Paketen, die in öffentlichen Paketindizes gehostet seien, heißt es weiter. Benutzer der stabilen PyTorch-Pakete seien nicht betroffen.

Das bösartige Binary werde ausgeführt, wenn das Triton-Paket importiert werde, was aber expliziten Code erfordere und nicht das Standardverhalten von PyTorch sei, teilen die Entwickler mit.

Bei dem betroffenen Paket handle es sich um “torchtriton”. Es sei in das Code-Repository Python Package Index (PyPI) hochgeladen worden und habe denselben Paketnamen getragen wie das Paket, das man im nightly PyTorch-Paketindex anbieten. Da der PyPI-Index Vorrang habe, sei aber dieses bösartige Paket anstelle der Version aus dem offiziellen Repository installiert worden.

Der Blog-Beitrag zum Problem nennt weitere Details und Prüfmöglichkeiten.

Der Beitrag Nightly-Builds von PyTorch waren kompromittiert erschien zuerst auf Linux-Magazin.