Künstliche Intelligenz wird großen Einfluss auf den IT-Sektor haben, das gilt auch für Linux und Open Source. Bisher sind alle großen LLMs (Large Language Models) und Chatbots fest in den Händen kommerzieller Unternehmen. Im Bereich der freien Software existieren zwar viele KI-Projekte, aber mit insgesamt viel zu wenig Koordination.
Fedora versucht als erstes großes Projekt eine öffentliche Einordnung, was da auf uns zukommt, wie sich KI produktiv in einer Distribution einsetzen lässt und wie wir in diesem Umfeld die Kontrolle über unsere Daten behalten. Die jetzt im Fedora-Community Blog veröffentlichten Überlegungen sind ein wichtiger Bestandteil der Fedora Strategy 2028.
Projektleiter Matthew Miller ist überzeugt, dass, wenn sich der von dem Hype um KI aufgewirbelte Staub erst einmal gesetzt hat, die Fortschritte bei der Beschleunigung von Hardware und Software für maschinelles Lernen als nützlich erweisen werden. Dabei sieht er beispielsweise Bereiche wie Open-Source-Sprachsynthese im Fokus, die seit Langem hinter den proprietären Modellen hinterherhinkt.
Unter Zugzwang
Miller sieht Fedora und die Open-Source-Welt allgemein im Zugzwang, will man nicht zu weit ins Hintertreffen geraten. Dazu sei zunächst eine Menge grundlegender Arbeit an der Basis der Plattform zu erledigen. Dabei sieht er Treiber und Werkzeuge, Pakete und Container, und neue Wege, Fedora-Software zu verteilen, an vorderster Stelle. Neue Werkzeuge könnten bei der Paketautomatisierung und der Fehlersuche helfen. Sie könnten Anomalien in Testergebnissen und Protokollen feststellen und vielleicht sogar helfen, potenzielle Sicherheitsprobleme zu erkennen. System-Updates könnten transparenter für den Anwender werden, indem automatisch aussagekräftige Zusammenfassungen darüber erstellt werden, was in jeder Systemaktualisierung neu ist.
Richtlinien und Rahmenbedingungen
Wichtig sei es laut Miller jetzt, Richtlinien und rechtliche Rahmenbedingungen für Open-Source-KI zu schaffen, um klarzustellen, was in der Community erwünscht, erlaubt und fördernswert ist. Eine weitere Frage ist, welche LLMs in Fedora und anderswo ausgeliefert werden sollen. Miller denkt beispielsweise an Werkzeuge für die Barrierefreiheit, wie etwa einen rein lokalen Sprachassistenten, der Gespräche nicht an ein großes Rechenzentrum sendet. Mozilla macht mit seiner lokalen Übersetzungsfunktion vor, wie es geht.
Weiterhin denkbar sind Werkzeuge, die den Zugang zu Hilfefunktionen erleichtern, Funktionen zur Vereinfachung von Systemverwaltungsaufgaben und Schnittstellen zur besseren Organisation von Dokumenten und Medien, basierend auf einem freien und quelloffenen Software-Stack.
PyTorch macht den Anfang
Einen greifbaren Anfang macht hier Fedora 40 mit der Integration von PyTorch, einer bei Facebook entwickelten Framework für Maschinelles Lernen und Neuronale Netze auf der Basis der Open-Source-Bibliothek Torch. Mit der initialen Bereitstellung in Fedora 40 werden lediglich Berechnungen auf der CPU unterstützt, dies legt aber den Grundstein für zukünftige Updates mit Unterstützung für Beschleuniger wie GPUs und NPUs. Die derzeitige Entwicklungsarbeit konzentriert sich auf die AMD-GPU-Beschleunigung.
