Die US-Regierung verbietet ausländischen Staatsangehörigen den Zugriff auf Anthropics KI-Modelle Fable 5 und Mythos 5, das Unternehmen musste beide weltweit abschalten. Während die Trump-Administration weiter internationales Vertrauen verspielt, indem sie wieder einmal ihre autoritären Züge zur Schau trägt, dürfte der Schaden auf der Seite der Nutzenden überschaubar sein. Denn schon vorher hat Anthropic die Anwendung von Fable 5 auf intransparente Weise massiv eingeschränkt.
Im Weißen Haus hatte es Bedenken über einen möglichen Jailbreak gegeben – also einen Trick, der hilft, die gefährlichen Kräfte von Fable 5 zu entfesseln, indem er die eingebauten Schutzmechanismen umgeht. Nach der Darstellung von Anthropic sei aber kein Weg bekannt, das Modell zu etwas zu bringen, das nicht auch mit anderen Modellen machbar sei, etwa ChatGPT 5.5. Bei der aktuellen Flut von KI-generierten Cybersicherheitslücken für manche Sicherheitsverantwortliche vielleicht eher ein kleiner Trost. Zwar gibt es bei Fable 5 eine Vorgeschichte: Das Modell ist eine Variante des Anthropic-Modells Mythos, das in kürzester Zeit in nahezu jeder Software gefährliche Sicherheitslücken erkennt. Diese neue Qualität hatte weltweit für Schreckenszenarien gesorgt. Fable 5 weigert sich, Prompts aus den Bereichen Biologie, Chemie, Cybersicherheit und Wissensdestillation zu beantworten.
Doch mit der jetzigen Argumentation der US-Regierung ließe sich nahezu jedes KI-Modell der Welt verbieten. Denn für jedes Modell lassen sich theoretisch Wege finden, dessen Safeguards zu umgehen, auch bei Heise haben wir das schon erfolgreich getestet. Natürlich kommt es stark auf das Modell an, ob am Ende eine schlecht gemachte Malware oder gar die Herstellungsanleitung für chemische Kampfstoffe steht. Auch wenn letzteres ohnehin niemals in Umlauf gebracht werden sollte, auch nicht als „jailbreakbarer“ Inhalt eines LLMs, wirkt die Argumentation der US-Regierung willkürlich. Sie ist als weitere Episode in ihrem schon länger währenden Streit mit Anthropic zu betrachten. Der KI-Hersteller verbietet die Nutzung seiner Modelle für autonome Waffensysteme des US-Militärs, dafür gab es Sanktionen.
„Fable 5 pur“ hätte es ohnehin nicht gegeben
Durch den jetzigen dreisten Zug der US-Regierung ist weniger verloren, als es scheinen mag. Fable 5 war vor wenigen Tagen im Pro-Tarif von Anthropic verfügbar geworden, jedoch mit zwei großen Einschränkungen. Zum einen sollte Fable 5 nur bis zum 22. Juni in dem Abo enthalten sein, bevor das Modell nur noch per API und mit tokengebundener Abrechnung – und damit deutlich teurer – verfügbar sein sollte. Als Grund nennt Anthropic fehlende Kapazität, die erst durch neue Rechenzentren aufgebaut werden müsse. Für den Consumer-Bereich war ein schnelles Ende also ohnehin absehbar, auch wenn Anthropic versprach, Fable 5 irgendwann ins Abo zurückzubringen.
Zum anderen hat Anthropic die Fable 5-Nutzung durch die Hintertür massiv gedrosselt: Fable 5 schaltete sich regelmäßig im Hintergrund auf das nächst schwächere Anthropic-Modell Claude Opus 4.8 um. Ohne, dass dies für Anwender erkennbar war. Als Begründung nennt Anthropic eine Schutzmaßnahme gegen Wissensdestillation, also das Training eines KI-Modells mit einem anderen. Fable 5 soll eigenständig erkennen, wann es für solches Training eingesetzt wird und dann zu Opus 4.8 wechseln. Und das soll wohl recht häufig passieren, wie die Kollegen des Heise-Videomagazins c’t 3003 vernommen haben. Anthropic hat zwar jüngst noch angekündigt, hier transparent zu werden, aber für Kunden heißt es trotzdem: Sie bezahlen zwar für Fable 5, kaufen am Ende aber einen unkontrollierbaren Modell-Mix. Diese Tatsache betrifft vor allem die professionellen Anwender im Coding-Bereich. In Anthropics Benchmark-Vergleich ist Fable 5 deutlich stärker als etwa Opus 4.8 oder ChatGPT 5.5.
Ein Weckruf mit gutem Timing
Bessere Werbung hätte die US-Regierung für europäische KI-Anbieter gar nicht machen können. Sie demonstriert, wie schnell das Produkt eines Herstellers, von dem sich weltweit Unternehmen abhängig machen, einfach so abgeschaltet werden kann. Wenn man so will, dann sogar mit gutem Timing. Viele deutsche IT-Entscheider stehen gerade am Anfang von Projekten, die KI-Agenten und entsprechende Infrastruktur in die Organisation bringen sollen. Sie können ihre Lehren aus der Fable 5-Affäre ziehen. Eine sollte sein: Wir sollten an unserer Unabhängigkeit von Big-Tech-KI arbeiten, so gut es geht und wir können das auch.
Unter der Haube einer agentischen KI-Anwendung, insbesondere wenn sie ganz oder in Teilen selbst gebaut wird, steckt oft eine Vielzahl von Modellen. Denn jedes Modell bringt individuelle Stärken für bestimmte Arbeitsschritte mit. Klar, Modellfamilien wie Mistral können mit den Produkten von OpenAI oder Anthropic aktuell nicht mithalten. Aber: Für einzelne Schritte in einem Workflow könnten sie durchaus eine Alternative sein. Wer darauf setzt, kann seine Abhängigkeit natürlich nicht ganz auflösen, aber zumindest eindämmen. Und er hilft alternativen KI-Anbietern, bessere Produkte zu schaffen. Über die Zeit könnten so mehr und mehr Anwendungsfälle für KI-Modelle entstehen, die nicht den Launen eines Staatsoberhaupts unterliegen.
(nen)
English (US) ·