Während sich das Gentoo-Projekt im April gegen die Verwendung von per KI erstellten Inhalten innerhalb der Distribution entschied und eine entsprechende Richtlinie verfasste, ist die Diskussion darüber bei Debian noch im Gang. Am 2. Mai forderte der Entwickler Tiago Vaz eine Diskussion über die Verwendung von KI, deren Ergebnis im Anschluss in einer Richtlinie gegossen werden soll. Die Diskussion fand statt, von einer Einigung kann man aber bisher nicht sprechen.
Copyright und Ethik
Tiago sieht die Probleme durch KI-Inhalte neben der Qualität vorwiegend beim Copyright und bei der Ethik. Einige Einwände gegen eine generelle Richtlinie gegen KI-Inhalte bezieht sich darauf, dass Debian keine Vorschriften darüber macht, welche Tools die Leute lokal für die Entwicklung von Software verwenden. Die Frage des Copyrights wird als weit über Debian hinausgehend angesehen, da dies auch Inhalte von Upstreams betrifft. Zudem gehen die Meinungen zum Thema Copyright in Debian generell weit auseinander.
Mehrheit ist für Abwarten
Wenn glaubwürdige Berichte vorliegen, dass Software in Debian nicht gemäß den Bedingungen der DFSG weiterverteilt werden kann, sollte dies wie bei jeder anderen DFSG-Verletzung gehandhabt werden. Darüber hinaus sollte nach Meinung von Debian-Urgestein Russ Allbery eine juristische Bewertung der Gesamtlage in Sachen Copyright bei KI-Inhalten abgewartet und keine proaktiven Schritte unternommen werden.
Policy wird restriktiv gehandhabt
Debian ist sehr restriktiv bei der Einführung neuer Richtlinien und so findet der Wunsch nach einer solchen auch keine Gegenliebe in der Diskussion. Auch die abgeschwächte Form einer Stellungnahme, wie sie Tiago im Verlauf der Diskussion vorschlägt, wird derzeit als nicht sinnvoll angesehen. Die Diskussion über KI-Inhalte wird bestimmt später wieder aufkommen, derzeit scheint es aber verfrüht für effektive Maßnahmen zu sein.
Für den Fall, dass ich eine nützliche Künstliche Intelligenz anwenden möchte, gehe ich stets zum »Der Postillion« und und benutze »DeppGPT«. Die ist sehr gut.
… oder …
»Rettung durch die Maschinen!«
Zitat: Die besten Argumente für Künstliche Intelligenz: Elektronische Postkarte, AlphaGo, Erika Steinbach, Beatrix von Storch, Lutz Bachmann, Donald Trump, etc.
Die Ablehnung des Ganzen finde ich sehr gut.
Mit KI wurde quasi die Buechse der Pandorra geoeffnet, jetzt geht es eher darum, was man tun muss um sich der ganzen KI Sache weitest gehend zu entziehen.
Verweigerung wird zu einem gravierenden Wettbewerbsnachteil führen. Die Abwärtsspirale Deutschlands bei allen neuen Technologien der letzten 50 Jahren sollte uns eine Lehre sein. KI ist kein Teufelszeug sondern nur eine Fortsetzung der IT der vergangenen 50 Jahre.
Man kann natuerlich vor den Gefahren auch die Augen verschliessen und dann schreien man haette es nicht gewusst.
Und wieso Wettbewerb? Wir sind hier bei freiem Linux und nicht bei suse, redhat oder so.
KI kann:
dich dauer ueberwachenentscheiden ob du beim Bankautomaten Geld bekommstDeine Versicherung den Schaden bezahltob der Laden deine Karte annimmtuvm.
Welche Gefahren denn genau? Dazu konnte ich von Andreas Klode bisher nichts finden?
Edit: sorry, bin hier in den falschen Thread geraten. Zu viele Gefahren überall 😉
Ich sehe da z.b. selbststaendig code einschleusen, Sicherheitsgefahr usw.
Vielleicht ist es noch nicht so weit aber in naher Zukunft alles moeglich.
Wenn das einer auf seinen PC selbst installiert ist es sein Problem aber wenns von der Distro kommt ist das nicht sehr gut.
KI koennte sich auch Zugriff auf dein komplettes Netzwerk verschaffen und da Schaden anrichten.
Hätte, könnte, würde. Ich erwarte bei sicherheitskritischen Änderungen eine detaillierte Erläuterung und nicht anmaßende Aussagen eines Maintainers.
Du weist doch genau das so etwas kommt. Waere das erste mal in der Geschichte, das man so etwas nicht ausnutzen wuerde.
Wir sollten uns alle dagegen wehren.
Denn wenn es ersteinmal drin ist, ist es zu spaet, dann kriegt man es nie wieder los.
Und Einer muss es ja an stossen, damit es auf den Tisch kommt. egal ob Entwickler, Maintainer, PL oder sonst wer.
Uebrigends war Deine Aussage des Maintainers gegenueber doch sehr arrogant. Ich selbst betrachte bei mir jeden MA als vollkommen gleichwertig.
Ich sehe in dem Fall die Arroganz auf Seiten von Herrn Klode. Und ich weiß immer noch nicht genau, was seine ominösen Bedenken sind. Es gilt hier, Sicherheit gegen Nutzerfreundlichkeit abzuwägen. Ich brauche den Passwortmanager 20 – 30 Mal am Tag und bin nicht bereit, die Credentials immer per C&P einzugeben. Deshalb wäre es interessant zu wissen, was ich mir nach Meinung von Herrn Klode dabei einhandle. Und es reicht mir bei Weitem nicht, zu wissen, “das so etwas kommt”.
Edit: Leider sind die Kommentare beider Debian Threads durch meine Schuld ab 12:17 durcheinandergeraten. Dieser Kommentarthread gehört eigentlich zum Artikel über KeePassXC und nicht zu KI. Sorry dafür.
oh kann es sein, das Du im falschen Beitrag postest?
Aber davon abgesehen, die Dinger sind auch bei mir im Unternehmen verboten.
Ja, sorry, die Kommentare zu den beiden Debian-Threads sind bereits mittags um 12:17 durcheinandergeraten.
Ja nur macht es das sowieso.
Uns wird bald alles eh um die Ohren fliegen.
Und was die Anderen machen ist vollkommen bedeutungslos, weil die Globalisierung eh vorbei ist. Andere Laender werden sich das auch 3x ueberlegen.
> Man kann natuerlich vor den Gefahren auch die Augen verschliessen und dann schreien man haette es nicht gewusst.
Für die Gefahren braucht es keine KI.
Lies Weizenbaum.
Aus seiner Sicht ist IT ein Überwachungs- und Unterdrückungswerkzeug (völlig unabhängig von der Lizenz), ich sage jetzt hier mal nur IBM/Hollerit.
Die Gefahr war schon immer da, KI verschärft das nur, genauso wie jede neue Technologie.
Du müsstest bei IoT noch viel lauter schreien als bei KI.
Einer der Gründe warum ich mich in meinem eigenen Land mittlerweile zunehmend fremd und unwohl fühle (nicht wegen der Döner- und Falaffelbuden) ist, daß hier alles aber auch alles ausschließlich negativ und ablehnend behandelt wird und solange diskutiert wird bis niemand mehr etwas damit zu tun haben will. Wo würde wohl Debian KI einbauen wollen? Irgendetwas gruseliges, das den Code so verändert, daß sich Dein Laptop in ein gefräßiges Monster verwandelt oder eine Kernexplosion des Akkus deinen Schreibtisch verwüstet? 🙂
Schauen wir uns einen aktuellen Sicherheitsvorfall an: https://www.bsi.bund.de/SharedDocs/Cybersicherheitswarnungen/DE/2024/2024-223608-1032.html
Ein hundsgemeiner Programmierer hatte es geschafft, Schadcode zu committen und der Maintainer hatte gepennt so daß die Codebase von XZ so kompromittiert wurde, daß absichtlich ein Angriffsvektor geschaffen wurde. Zum Glück gibt es bei Debian Stable noch weitere Sicherheitsschichten so daß sich die reale Gefahr in Grenzen halten wird.
Eine KI könnte jetzt aber alle Commits danach bewerten, ob da etwas gruseliges darin vorkommt und das dann dem Maintainer melden. Damit wird unser Code wieder etwas sicherer. Und dann kommen Sie und rufen “nei nei nei – KI ist des Teufels, wehret den Anfängen” so wie Kernkraft, Gentechnik und bis zur Erfindung von Computerspielen die ganze IT. Fassungslos.
Die Bedenken in der Diskussion bei Debian gingen eher in die Richtung, dass Leute versuchen, den Maintainer-Prozess für sich einfacher zu gestalten oder dass KI bei den Debian Maintenance Tools zum Einsatz kommen könnte. Die meisten waren aber der Meinung, die bestehenden Richtlinien und gesunder Menschenverstand seien derzeit ausreichend, solcher Vorkommnisse Herr zu werden.
intern ist ja ne ganz andere Nummer und dafuer gibts ein codereview, 4 Augenprinzip etc. Sollte bei mehreren Entwicklern an einer Sache immer beachtet werden. … KI haette dies auch viel mehr verschlimmer koennen (hast ja keinen Einfluss darauf). Ausserdem wuerde durch KI die individuelle Programmierung eines jeden Programmierers beseitigt. …. Allerdings vergisst Du, das keiner Linux wirklich programmiert, sondern nur die einzelnen Tools etc. zusammengefuegt werden.