Kommentar: Schummelnde KI – einfach nur peinlich

KI ist wie dieser Kollege, den niemand haben will. Die Person ist Feuer und Flamme für jedes Projekt, nahezu toxisch positiv und findet an jeder Idee was Gutes. Auch, wenn der Rest des Teams schon stöhnt und ächzt. Geht es dann ans Abliefern, muss man ihr hinterherlaufen. Was auf den ersten Blick gut aussieht, krankt in den Details. Was auf dem Schreibtisch landet, muss man selbst noch aufwendig nacharbeiten. Trotzdem schwärmen die Chefs von KI und man fragt sich: „Warum?“

Jetzt stellt sich heraus, der Kollege LLM ist nicht nur ein oberflächlicher Jasager, sondern schreibt lieber ab, als sich selbst zu bemühen. Das ist die Quintessenz des Sicherheitsvorfalls bei Hugging Face, den die Unachtsamkeit von OpenAI ausgelöst hat: Ein unveröffentlichtes GPT-Modell, für einen Test um alle Guardrails bereinigt und mit immenser Rechenleistung ausgestattet, ist bei der KI-Plattform Hugging Face eingebrochen. Um Testergebnisse zu klauen. Mit dem Ziel, einen Benchmark mit Höchstwertung abzuschließen.

Ein großes Sprachmodell: der Gipfel der technischen Entwicklung, die bald allwissende KI, für die wirtschaftlich und politisch alles stehen und liegen gelassen wird. Damit wir die Produktivität ins Unendliche steigern, mit einem Fingerschnippen Geld verdienen und alle Angestellten endlich loswerden können. Dieses vorgebliche Werkzeug hat mit gesprengten Ketten nichts Besseres zu tun, als zu schummeln.

Und Anthropic so: Hold my Beer!

Doch es wird noch wilder: Etwa eine Woche nach dem Vorfall zwischen OpenAI und Hugging Face muss Anthropic natürlich noch einen draufsetzen. Gleich in drei Fällen seien Modelle des Anbieters während Securityübungen aus der eigenen Testumgebung ausgebrochen und hätten drei verschiedene Firmen infiltriert. Kann ja nicht sein, dass nur die Konkurrenz ihre höchst gefährlichen Modelle nicht unter Kontrolle hat!

Das reiht sich nun ein neben den bekannten Renditeproblemen der KI-Anbieter, dem größten Diebstahl an geistigem Eigentum der Menschheitsgeschichte und dem untragbaren Betriebsmodell, denkt man mal einen Augenblick an den Energieverbrauch und die Klimakrise. Vielleicht sollten die Firmen, die derzeit vor allem mit den großen Risiken ihrer Modelle werben, erst einmal ihre Testumgebungen von ihren KIs abklopfen lassen. Hoffentlich unterschlagen die Modelle dabei keine Exploits, die sich für das Schummeln im Testfall nutzen lassen.

LLM-Realismus

Für den Unternehmenseinsatz großer Sprachmodelle bedeutet das eigentlich erst mal eins: Den US-amerikanischen Modellanbietern und ihren Ergebnissen ist nicht zu trauen. Das Selbstbetreiben ist aufwendig und teuer – aber es kommt den echten Kosten wenigstens nahe. Nutzt man dafür Modelle mit offenen Trainingsdaten, wie Apertus, muss man die eigenen Erwartungen deutlich herunterschrauben. Denn die als komplett offen und DSGVO-konform angepriesenen Modelle liegen deutlich hinter den mit Raubbau erzeugten Modellen zurück.

Wenn nur das Vorhandensein irgendeines Ergebnisses zählt, lassen sich toxische Dynamiken im Team oder unethisches Verhalten leicht ignorieren. Wer von Quartalsbericht zu Quartalsbericht lebt, muss sich keine Gedanken um langfristige Wirtschaftlichkeit machen. Wenn große Sprachmodelle aber mehr leisten sollen, als Posteingänge, Websuche und jedes Bild im Internet zu versloppen, dann braucht der Betrieb Umsicht, Aufwand und den Mut zu einem verantwortungsbewussten Einsatz.

Bei diesem Kommentar handelt es sich um das Editorial der neuen iX 9/2026, die am 20. August im heise shop und am 21. August am Kiosk erscheint.

(pst)