Debian Swirl

Debian streitet über KI bei der Paketprüfung

Im August hat Debian darüber abgestimmt, welche Rolle generative KI bei der Arbeit am Projekt spielen darf. Das Wahlergebnis lässt den Einsatz von Sprachmodellen zu und hält die Mitwirkenden für ihre Beiträge verantwortlich. Wir haben im Vorfeld ausführlich berichtet. Seit Herbst kommt ein Sprachmodell auch bei der Prüfung neu eingereichter Pakete zum Einsatz. Das hat auf der Entwickler-Mailingliste eine über Wochen geführte Debatte darüber ausgelöst, wann ein Team vor der Einführung eines solchen Verfahrens das Projekt einbinden muss.

KI prüft Pakete in der NEW-Warteschlange

Wer ein Paket erstmals für Debian einreicht oder mit einem bestehenden Quellpaket neue Binärpakete ins Archiv bringen will, muss durch eine Warteschlange namens NEW. Dort prüft das zuständige DFSG-Team unter anderem, ob die Lizenzangaben stimmen. Im Herbst ergänzte das Team diesen Ablauf um eine automatisierte Vorprüfung. Ein Sprachmodell sucht nach Auffälligkeiten bei Lizenzierung und Paketierung und erstellt einen Bericht für die Einreichenden. Die Entscheidung über die Aufnahme eines Pakets trifft weiterhin das Team. Die Berichte entstehen über das vom französischen Cloud- und KI-Anbieter Scaleway gesponserte Debian Inference Portal.

Am 26. Oktober kündigte der Debian-Entwickler Johannes Schauer Marin Rodrigues an, vorerst keine Pakete mehr in NEW hochzuladen. Er bemängelte, dass die KI-Prüfung ohne vorherige Ankündigung eingeführt worden sei, und forderte eine Möglichkeit, seine Uploads davon auszunehmen. Seine Ankündigung löste auf der Entwickler-Mailingliste eine kontroverse Diskussion aus, die sich bis Mitte November hinzog. Mathias Gibbens sah in den langen, ungeprüften Berichten zusätzlichen Aufwand für die Maintainer. Richard Laager hielt dagegen, dass die Berichte beispielsweise auf konkrete Unstimmigkeiten in den Copyright-Angaben hinwiesen. Auch nach Einführung der Abwahlmöglichkeit für E-Mails blieb umstritten, ob das DFSG-Team die KI-Prüfung vorab mit dem Projekt hätte abstimmen müssen.

Das Ignorieren eines Berichts konnte sich auf die Bearbeitung auswirken. Stufte das Modell einen Befund als schwerwiegend ein, konnte das System den Upload bis zu 24 Stunden zurückhalten. Eine Antwort konnte die Wartezeit beenden und die Priorität erhöhen. Blieb sie aus, konnte der Upload in der Rangfolge zurückfallen. Inzwischen können Entwickler die E-Mails im Dashboard abbestellen. Die maschinelle Prüfung kann trotzdem stattfinden, und weitere Empfänger wie eine Team-Mailingliste können die Nachricht weiterhin erhalten. Bleibt nach der Abwahl kein Empfänger übrig, wartet das System weder auf eine Antwort noch zieht es für die ausgebliebene Antwort Punkte ab.

Was der Beschluss für NEW bedeutet

Die im August angenommene Option 5, Responsible Use of Generative AI, verlangt für KI-gestützte Beiträge dieselben Maßstäbe bei Qualität, Wartbarkeit und Lizenzkonformität wie für andere Beiträge. Wer solche Ergebnisse einbringt, trägt dafür die Verantwortung. Für automatisierte Maßnahmen mit breiten Auswirkungen sieht der Beschluss vor, sie vorab im Projekt zu diskutieren und einen Konsens zu suchen.

Ian Jackson sieht im automatischen Versand ungeprüfter Berichte eine solche Maßnahme. Lucas Nussbaum hält dagegen, das DFSG-Team nutze ein Hilfsmittel für seine eigene Prüfung und teile die Ergebnisse frühzeitig, damit Maintainer mögliche Probleme schon vor der menschlichen Prüfung beheben können. Wie praktisch der Konflikt ist, zeigt das FPGA-Werkzeug nextpnr. Simon Richter meldete einen Fehler mit Schweregrad serious. Für die nächste Debian-Veröffentlichung seien neue Binärpakete nötig, und aus ethischen Gründen lehne er es ab, die dafür erforderlichen Uploads durch die KI-Prüfung laufen zu lassen. Unter diesen Umständen sprach er sich dafür aus, das Paket aus der nächsten Veröffentlichung herauszunehmen.

Wie groß der Rückhalt für eine restriktivere Haltung war, zeigt ein Blick auf die Paarvergleiche der Abstimmung. Im direkten Vergleich mit der Siegeroption entschieden sich 139 Abstimmende für Debian is created by humans, 251 bevorzugten den Siegertext. Die rund 36 Prozent beziehen sich auf die 390 Stimmen, die eine der beiden Optionen höher einstuften. Die unterlegene Option hätte KI-generierte Inhalte als direkte Beiträge zu Debian ausgeschlossen und den Einsatz von Sprachmodellen etwa für Recherche oder Analyse weiterhin erlaubt. Die Debatte um NEW dreht sich nun um einen Fall, in dem die Entscheidung eines Teams für ein Sprachmodell auch den Arbeitsablauf anderer Mitwirkender verändert.

Nicht zum ersten Mal zeigt sich Debian gespalten über das Ergebnis einer per Wahl getroffenen Entscheidung. Man denke nur an die Einführung von systemd. Bisher hat das Projekt nach solchen Brüchen immer wieder eine Basis zur gemeinsamen Fortführung des Projekts gefunden.

Teilt den Beitrag, falls ihr mögt

Kommentar hinterlassen