ZLUDA ist eine Drop-in-Bibliothek für CUDA, die unmodifizierte CUDA-Anwendungen auf Nicht-NVIDIA-GPUs wie Intel oder AMD mit nahezu nativer Performance ausführt. Sie übersetzt CUDA-API-Aufrufe in kompatible Funktionen für andere Hardware, derzeit insbesondere AMD-GPUs über ROCm.
Wechselvolle Geschichte
ZLUDA wurde im Jahr 2020 vom polnischen Entwickler Andrzej Janik ins Leben gerufen und zunächst von Intel finanziert. 2022 schloss Janik einen Vertrag mit AMD, der den Fokus auf AMD-GPUs ab RDNA1 und der Radeon RX 5000-Serie legte. AMD zog sich 2024 wegen rechtlicher Risiken zurück, woraufhin der AMD-spezifische Code entfernt wurde. Seit Oktober 2024 wird ZLUDA durch einen anonymen Sponsor unterstützt und legt den Fokus auf AI-Workloads wie PyTorch, TensorFlow, llama.cpp und llm.c.
Mit der gerade erfolgten Unterstützung von ROCm7.x für Linux und Windows geht das ZLUDA-Projekt einen weiteren Schritt bei der Unterstützung von CUDA auf AMD-GPUs. Auf der Webseite gibt es einen Schnelleinstieg für beide Betriebssysteme.