Bereits in Firefox 148 hatte die KI Opus 4.6 von Anthropic 22 sicherheitsrelevante Fehler entdeckt und behoben. Im Mozilla-Blog ist aktuell zu lesen, dass in einer weiteren Zusammenarbeit mit Anthropic bei einer ersten Evaluierung 271 Sicherheitslücken im gerade veröffentlichten Firefox 150 entdeckt und behoben wurden. Verantwortlich dafür ist Anthropics neuestes KI-Modell Claude Mythos, das in einer frühen technischen Vorschau auf Firefox 150 angesetzt wurde.
Claude Mythos ist ein neues, extrem leistungsfähiges Sprach‑KI‑Modell des US‑Unternehmens Anthropic, das aktuell nur eingeschränkt verfügbar ist und nicht nur wegen seiner Fähigkeiten im Bereich Cyber‑Security Schlagzeilen macht.
Keine neuen Fehlerklassen
Mozilla betont, es handle sich bei den gefundenen Lücken in keinem Fall um Fehler, die nicht auch von menschlichen Reviewern hätten gefunden werden können. Vielmehr ordnet Mozilla das Ergebnis so ein, dass man mit entsprechender KI endlich die Chance habe, auf Augenhöhe mit den kriminellen Akteuren zu agieren. Damit argumentiert Mozilla dafür, KI als festen Bestandteil moderner Sicherheitsarbeit zu verstehen.
Ist die Frage, ob alleine das hilft. Also ist toll, neue Sicherheitslücken zu finden klar. Aber viele Open Source Projekte ersticken bereits jetzt an hunderten offenen Issues/Bug Reports, dass man da mit der Umsetzung kaum hinterherkommt. Da müsste Mythos auch unterstützen können.
Was aus meiner Sicht einer menschlichen Überprüfung zwingend bedarf, ist die durch KI festgestellte Verletzlichkeit, sowie deren Behebung im Detail.
Das derzeitig grassierende Problem, dass Wissenschaftler ungeprüft Veröffentlichungen verwenden, da sie diese von einer KI als Quelle genannt erhalten haben, lässt mich befürchten, dass es in den Produktteams in der Softwareentwicklung nicht besser laufen wird.
Meine optimistische Seite hofft auf die Lernfähigkeit des Menschen auch im Umgang mit KI.
Also ich glaube nicht mehr an die Lernfaehigkeit, seitdem ich genau beobachte was mit der Bildung geschied und geschehen ist und die Einstellung der meisten jungen Menschen.
Beeindruckend, aber es bleibt ein permanenter Wettbewerb. Aktuell hat man einen vorteil, weil man zugang zum besseren Modell hat. Fakt ist aber:
Ohne KI: langfristig im Nachteil
Mit KI: konkurrenzfähig
Mit besserer KI: temporärer Vorsprung
Ja aber es wird zu massiven Arbeitsplatz- und wirklichen Wissens/Faehigkeitsverlusten kommen durch KI.
Für einen Arbeitsplatz, der durch KI wegfällt, werden vielleicht 7 Arbeitsplätze neu entstehen: Energieversorgung und -transport, Bau (Serverräume, Hardware, Kühlung … ), Customizing, Überwachung der KI, Wartung und Reparatur, Sicherheit, Datenschutz und weitere, an die wir heute noch nicht denken.
Warum muss ich da nur an Douglas Adams Per Anhalter durch die Galaxis und den Supercomputer Deep Thought denken?
Aber ehrlich. Ich selbst will es nicht und ich würde auch keinem anderen wünschen, an und für die Infrastruktur einer Über-Ki zu arbeiten, während gleichzeitig immer mehr Teilaspekte des Lebens eben durch diese KI bestimmt und verwaltet werden und niemand mehr nachvollziehen kann, warum die KI so entschieden hat.
… und wertvollste Ackerflächen und Wiesen werden überbaut. Schon heute würden wir sehr schnell verhungern, wenn wir keine Nahrungsmittel aus dem Ausland bekommen würden. Da kann auch KI nichts daran ändern. Ich habe nichts gegen Ki, der Hype ist mir aber zu viel und er lenkt vom Essentiellen ab. Das ist unsere Abhängigkeit von Gas, Strom, Benzin, Diesel, Hardware, Nahrung, Kleidung -> können wir alles nicht mehr auch nur annähernd selbst produzieren. Wir haben uns vollkommen abhängig gemacht. Das Verhältnis zwischen Einwohnern und Wertschöpfung ist krank. Sorry, ich bin vom Thema abgekommen …
“Nahrung, Kleidung -> können wir alles nicht mehr auch nur annähernd selbst produzieren” — Das wiederrum halte ich fuer absolut falsch. Wir in Deutschland koennen uns sehr wohl selbst ernaehren, wenn die vielen Energiebepflanzungen, Brachen der weggenommene Platz durch unrentable Windmuehlen und Photovolt. wieder vorhanden ist. Natuerlich muessen wir dann wieder ganz normale Lebensweisen annehmen und auch Ernaehrungsmaessig.
Naja Massenentlassung ist bis jetzt ausgeblieben. Ich denke eher das wird sich alles verschieben. Statt Sytntax zu pauken, wird es in Zukunft mehr Debuggen sein. Wissens-/Fähigkeitsverlust hat man früher auch schon beim Taschenrechner vorhergesagt 🙂
Also Taschenrechner durfte ich früher in der Schule erst spät benutzen, als Hilfsmittel. Herleitungen und mathematisches Grundverständnis des jeweiligen Stoffes wurden schon vorausgesetzt. Wenn ich dann höre, dass über Ki schon in der Grundschule und Mittelstufe gesprochen wird, oder Schüler sogar offiziell ihre Unterlagen bei Arbeiten gebrauchen können …
(aus erster Hand weiss ich, dass diese Hilfsmittel den Schülern überhaupt nicht helfen, da sie die Grundlagen nicht beherrschen, da wird dann lieber am Bewertungsschema gedreht)
@holdon, genau das ist doch auch passiert.
Wieviel Tausend Fabrikarbeiter haben schon wegen dem PC ihre Arbeit verloren.
Und Wissens/Faehigkeitsverlust ist jede Sekunde zu sehen, wenn du die Augen auf machst.
Ohne PC/Tablet/Handy sind die meisten doch schon absolut gering am Wissen und fast lebensunfaehig.
Und wieviele tausende/millionen neue Arbeitsplätze sind entstanden? Es hat sich verschoben. Ohne PC würde die komplette Weltwirtschaft auf der Stelle zusammenbrechen und man hätte garnichts mehr.