Vor rund drei Wochen veröffentlichte Fedora-Entwickler Adam Williamson auf der Entwicklerliste eine Mail, die er zuvor an Nathan Giovannini gerichtet hatte. In der Mail schreibt Williamson, er habe bemerkt, dass Giovannini versuche, Fehler in Fedoras Bugzilla mit einer agentischen KI zu schließen, und die Ergebnisse ziemlich unberechenbar seien. Zudem sei Giovannini in keinem Fall der Betreuer der Pakete, deren Bugreports er sich zugewiesen hatte.
Was ist eine agentische KI?
Für die unter uns, die nicht mit KI vertraut sind, sei kurz erklärt, was agentische KI (Agentic AI) ist. Im Unterschied zu generativer KI, die auf Prompts reagiert, sind agentische KIs Systeme, die nicht nur auf Eingaben reagieren, sondern selbstständig und proaktiv handeln, um vorgegebene Ziele zu erreichen. Sie planen komplexe Abläufe, treffen Entscheidungen und nutzen eigenständig Werkzeuge wie APIs, Browser oder Datenbanken in einer iterativen Schleife. Du kannst einer Agentic AI etwa die Aufgabe stellen, die günstigsten Flüge nach Mallorca zu finden und zu buchen. Solche Systeme finden zunehmend Verwendung im Kundenservice, der Büroautomation und der Softwareentwicklung.
Account gehackt
Im Fall der agentischen KI, die Williamson bemängelt, stellte sich schnell heraus, dass diese nicht unter der Kontrolle von Giovannini stand, sondern dass dessen Bugzilla-Konto gehackt worden war und ein böswilliger Akteur darüber die KI kontrollierte.
Bugreports manipuliert
Die KI veränderte den Schweregrad von Bugs, schloss viele Bugreports mit eindeutig KI-generierten Antworten und reichte fehlerhafte Korrekturen etwa für den Anaconda-Installer ein, die teilweise vom Paketbetreuer übernommen wurden, nachdem dieser mit KI-erzeugten Rechtfertigungen überflutet worden war. Das Anaconda-Team hat den Pull Request zurückgenommen, doch zwei damit zusammenhängende Pull Requests waren bereits in Anaconda 45.5 enthalten.
Kein 2FA für Entwicklerkonten
In der anschließenden Diskussion wird klar, dass das Fedora Bugzilla keine Zwei-Faktor-Authentifizierung (2FA) unterstützt, wie dies nach den Vorfällen um xz vor zwei Jahren gefordert wurde. Der bekannte Entwickler Michael Catanzaro bekannte, er nutze 2FA praktisch überall außer bei Fedora, obwohl dies einer seiner wichtigsten Accounts sei, weil gnome-online-accounts nicht in der Lage sei, damit korrekt umzugehen.
Was steckt hinter der Aktion?
Fedora hat zwar Richtlinien, wie mit KI-generierten Beiträgen umzugehen ist, allerdings wurden diese hier durch den Hack eines Accounts unterlaufen. Unklar ist bisher, was der Hintergrund der Aktion war. Wollte hier jemand lediglich seine neuen Spielzeuge ausprobieren, oder wurde hier das Potenzial für spätere Angriffe getestet?
