US-Exportverbot zwingt Anthropic zur weltweiten Abschaltung von Fable 5 und Mythos 5

Der KI-Entwickler Anthropic aus den USA kappt nach einer Anordnung der Regierung den Zugang zu seinen fortschrittlichsten Modellen für Künstliche Intelligenz vorerst für alle Nutzer weltweit. Da es Anthropic aber nicht möglich ist, nur Nutzer von außerhalb der USA auszusperren, blieb als einzig praktikable Alternative die Abschaltung. "Wir gehen von einem Missverständnis aus und arbeiten daran, den Zugang so schnell wie möglich wiederherzustellen", erklärte das Unternehmen und entschuldigte sich bei den Nutzern.

Anlass war nach Darstellung von US-Medien ein Bericht, demzufolge hauseigene Cybersicherheitsforscher von Amazon das Modell Fable 5 mittels einer gezielten Prompt-Abfolge erfolgreich "gejailbreakt" hätten. Andrew Jassy, der Chef des Amazon-Konzerns, habe dies US-Regierungsvertretern, darunter Finanzminister Scott Bessent, geschildert. Das Modell habe daraufhin sensible Informationen ausgespuckt, die direkt für großflächige Cyberangriffe genutzt werden könnten.

Hintergründe zur Anordnung aus Washington

Anthropic selbst wies diese Darstellung in einem Blogpost zurück. Soweit man wisse, habe die Regierung lediglich Informationen über einen "potenziellen", nicht aber über einen verifizierten, kritischen Jailbreak erhalten. Zudem seien die vermeintlich aufgedeckten Sicherheitslücken "minimal" gewesen. Das Unternehmen betonte, dass es nur Teile der Informationen von der Regierung erhalten habe und sprach von einem Missverständnis.

Fable 5 ist eine Variante des Anthropic-Modells Mythos, das in kürzester Zeit in nahezu jeder Software gefährliche Sicherheitslücken erkennt. Die Künstliche Intelligenz hinter Anthropics KI-Modell "Mythos" ist besonders gut darin, zum Teil auch über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen aufzuspüren. Diese Fähigkeit wurde bisher von US-Behörden und ausgewählten Unternehmen eingesetzt, um Sicherheitslücken zu finden.

Das weniger leistungsfähige Fable 5 war erst wenige Tage vor dem Vorfall im Pro-Tarif von Anthropic verfügbar geworden. Im Weißen Haus hatte es Bedenken über einen möglichen Jailbreak gegeben – also einen Trick, der hilft, die gefährlichen Kräfte von Fable 5 zu entfesseln, indem er die eingebauten Schutzmechanismen umgeht. Zum einen sollte Fable 5 nur bis zum 22. Juni in dem Abo enthalten sein, bevor das Modell nur noch per API und mit tokengebundener Abrechnung – und damit deutlich teurer – verfügbar sein sollte.

Funktionsweise und Einschränkungen von Fable 5

Fable 5 weigert sich, Prompts aus den Bereichen Biologie, Chemie, Cybersicherheit und Wissensdestillation zu beantworten. Fable 5 schaltete sich regelmäßig im Hintergrund auf das nächst schwächere Anthropic-Modell Claude Opus 4.8 um. Ohne, dass dies für Anwender erkennbar war. Als Begründung nennt Anthropic eine Schutzmaßnahme gegen Wissensdestillation, also das Training eines KI-Modells mit einem anderen. Fable 5 soll eigenständig erkennen, wann es für solches Training eingesetzt wird und dann zu Opus 4.8 wechseln.

Sie bezahlen zwar für Fable 5, kaufen am Ende aber einen unkontrollierbaren Modell-Mix. Auch wenn Anthropic versprach, Fable 5 irgendwann ins Abo zurückzubringen. In Anthropics Benchmark-Vergleich ist Fable 5 deutlich stärker als etwa Opus 4.8 oder ChatGPT 5.5. Als Grund nennt Anthropic fehlende Kapazität, die erst durch neue Rechenzentren aufgebaut werden müsse.

Hinter den Kulischen soll Amazon-CEO Andrew Jassy eine zentrale Rolle gespielt haben. Wie US-Medien wie The Wall Street Journal, Reuters und The Information übereinstimmend berichten, suchte Jassy gezielt das Gespräch mit hochrangigen Regierungsvertretern, darunter US-Finanzminister Scott Bessent. Amazon, selbst einer der größten Investoren von Anthropic und über seine Cloud-Sparte AWS eng mit dem KI-Unternehmen verzahnt. Ein Amazon-Sprecher erklärte: "Als führender Cloud-Anbieter, der eine große Anzahl von Kunden im privaten und öffentlichen Sektor bedient, ist es nicht ungewöhnlich, dass Regierungen unseren Rat zu potenziellen Sicherheitsrisiken suchen. Wenn dies geschieht, teilen wir die Details dieser Diskussionen nicht."

Rolle von Amazon und David Sacks

Auch Tech-Milliardär David Sacks dürfte eine Rolle spielen. David Sacks, der ehemalige "KI-Zar" der Trump-Regierung und Co-Vorsitzende des Beraterstabs des Präsidenten für Wissenschaft und Technologie, bestätigte gegenüber TechCrunch, dass ein "hochgradig glaubwürdiger, vertrauenswürdiger Partner sowohl von Anthropic als auch der US-Regierung" mit einem funktionierenden Jailbreak an die Administration herangetreten sei. Sacks zufolge habe die Administration Anthropic-CEO Dario Amodei ultimativ aufgefordert, den Jailbreak entweder zu flicken oder das Modell vorerst vom Netz zu nehmen. "Dario weigerte sich" – daraufhin habe die Regierung "widerwillig" die Reißleine gezogen und ein striktes Exportverbot verhängt.

Sacks äußerte die Hoffnung der Administration, dass Anthropic das Sicherheitsproblem behebt, die Exportkontrolle aufgehoben wird und Fable wieder in den allgemeinen Release gehen kann. Die offizielle Begründung der Trump-Regierung für das Exportverbot klang drastisch: Anthropics neue Modelle seien ein untragbares Risiko für die nationale Sicherheit, da sie kritische Software-Sicherheitslücken aufspüren und für Cyberangriffe nutzbar machen könnten.

Nach der Darstellung von Anthropic sei aber kein Weg bekannt, das Modell zu etwas zu bringen, das nicht auch mit anderen Modellen machbar sei, etwa ChatGPT 5.5. Anthropic betonte zudem, dass die Sicherheitsvorkehrungen in Fable 5 umfangreich getestet worden seien. Das Unternehmen widersprach einer Blockade von Software für Hunderte Millionen Nutzer aus diesem Grund. Die jetzigen Maßnahmen der Regierung entsprächen jedoch nicht den Grundsätzen einer fairen und faktenbasierten Regulierung, erklärte das Unternehmen nun.

Positionen und Reaktionen von Anthropic

Gleichzeitig hatte Anthropic-Chef Dario Amodei wenige Tage zuvor noch eine stärkere Aufsicht über KI gefordert, einschließlich der Möglichkeit, Modelle mit inakzeptablen Risiken zu sperren. Noch am Mittwoch hatte Anthropic selbst eine stärkere Aufsicht über KI gefordert, einschließlich der Möglichkeit, Modelle mit inakzeptablen Risiken zu sperren. Das Unternehmen verklagt zudem das Pentagon, das Anthropic als Lieferkettenrisiko eingestuft hatte – eine Einstufung, die den Einsatz der Software in Behörden stark beeinträchtigen kann.

In Europa wuchs unterdessen die Sorge, in der KI-Infrastruktur zu stark von den USA abhängig zu werden. Der österreichische Grüne-Netzpolitiker Süleyman Zorba sagte am Samstag: "Wer seine digitale Infrastruktur vollständig in fremde Hände legt, macht sich abhängig und erpressbar." Klar, Modellfamilien wie Mistral können mit den Produkten von OpenAI oder Anthropic aktuell nicht mithalten. Aber: Für einzelne Schritte in einem Workflow könnten sie durchaus eine Alternative sein.

Der IT-Sicherheitsexperte Dennis-Kenji Kipker erklärte, "Mythos" könne eine große Zahl von IT-Sicherheitsschwachstellen finden. Das könne auch von kriminellen Akteuren genutzt werden. Der KI-Hersteller verbietet die Nutzung seiner Modelle für autonome Waffensysteme des US-Militärs, dafür gab es Sanktionen. In den vergangenen Monaten war Anthropic wiederholt in Konflikt mit der US-Regierung geraten, weil das Unternehmen darauf bestand, dass seine KI-Modelle nicht in autonomen Waffensystemen und für Massenüberwachung in den USA eingesetzt werden dürfen.

Folgen für den globalen KI-Markt

Beobachter werten den Vorgang als möglichen Auftakt zu einer stärkeren Abschottung des globalen KI-Marktes. Washington behandle moderne KI-Systeme zunehmend als strategische Technologie, deren Verbreitung so streng kontrolliert werden solle wie andere sicherheitsrelevante Hochtechnologien, heißt es in einer Analyse. Bisher hatten sich US-Exportbeschränkungen vor allem auf leistungsstarke KI-Chips und Rechenzentren konzentriert. Sollte die US-Regierung ihren Kurs fortsetzen, könnten andere besonders leistungsfähige KI-Systeme künftig international nur noch eingeschränkt oder gar nicht mehr verfügbar sein.

Das Unternehmen kündigte an, den Zugang so bald wie möglich wieder herzustellen. Um diese Vorgabe zu erfüllen, bleibe nichts anderes übrig, als die Systeme komplett vom Netz zu nehmen. In der offiziellen Mitteilung erklärte Anthropic: "The net effect of this order is that we must abruptly disable Fable 5 and Mythos 5 for all our customers to ensure compliance." Dies sei der erste Fall, in dem KI-Modelle selbst zum Gegenstand staatlicher Kontrollmaßnahmen der USA geworden seien.

Anthropic hatte Mythos wochenlang als "zu gefährlich für die Öffentlichkeit" inszeniert, um Exklusivität zu generieren. Mythos 5 ist die nicht-öffentliche Vollversion, die weiterhin nur von Behörden und ausgewählten Unternehmenspartnern zur Absicherung ihrer Systeme genutzt werden soll. Das Pentagon hatte Anthropic zwischenzeitlich zum Lieferkettenrisiko erklärt. Anthropic klagt gegen diese Einstufung. Unter der Haube einer agentischen KI-Anwendung, insbesondere wenn sie ganz oder in Teilen selbst gebaut wird, steckt oft eine Vielzahl von Modellen.