Anthropic schaltet Spitzenmodelle Fable 5 und Mythos 5 nach US-Exportverbot weltweit ab

Nach offizieller Darstellung der Trump-Administration stellten die neuen Modelle ein untragbares Risiko für die nationale Sicherheit dar, da sie kritische Software-Sicherheitslücken aufspüren und für Cyberattacken nutzbar machen könnten. Anthropic wies diese Darstellung zurück und erklärte, die vermeintlich aufgedeckten Sicherheitslücken "minimal" gewesen seien. Das Unternehmen habe bislang lediglich mündliche Hinweise auf einen möglichen, eng begrenzten und nicht universellen Jailbreak erhalten.

Hinter dem drastischen Schritt steht nach Recherchen von The Wall Street Journal, Reuters und The Information Amazon-CEO Andrew Jassy. Demnach soll Jassy hochrangigen Regierungsvertretern, darunter US-Finanzminister Scott Bessent, mitgeteilt haben, dass hauseigene Cybersicherheitsforscher Fable 5 mittels einer gezielten Prompt-Abfolge erfolgreich "gejailbreakt" hätten. Das Modell habe daraufhin sensible Informationen ausgespuckt, die direkt für großflächige Cyberangriffe genutzt werden könnten.

Rolle von Amazon und David Sacks

Der Tech-Milliardär David Sacks, ehemaliger "KI-Zar" der Trump-Regierung und Co-Vorsitzende des Beraterstabs des Präsidenten für Wissenschaft und Technologie, bestätigte diese Darstellung in Teilen. "Ein hochgradig glaubwürdiger, vertrauenswürdiger Partner sowohl von Anthropic als auch der US-Regierung trat mit einem funktionierenden Jailbreak an uns heran", erklärte Sacks. Amazon ist einer der größten Investoren von Anthropic und über seine Cloud-Sparte AWS eng mit dem KI-Unternehmen verzahnt.

Ein Amazon-Sprecher wollte sich zu den Gesprächen inhaltlich nicht äußern. "Wenn dies geschieht, teilen wir die Details dieser Diskussionen nicht", hieß es. Zugleich verwies das Unternehmen darauf, dass es als führender Cloud-Anbieter, der eine große Anzahl von Kunden im privaten und öffentlichen Sektor bedient, nicht ungewöhnlich sei, dass Regierungen Rat zu potenziellen Sicherheitsrisiken suchten.

Reaktion von Anthropic

Laut Sacks habe die Administration Anthropic-CEO Dario Amodei ein Ultimatum gestellt: "Die Administration forderte [Anthropic-CEO Dario Amodei] auf, den Jailbreak entweder zu flicken oder das Modell vorerst vom Netz zu nehmen. Dario weigerte sich". Aufgrund dieser Weigerung habe die Regierung schlussendlich "widerwillig" die Reißleine gezogen und ein striktes Exportverbot verhängt. "Die Hoffnung der Administration ist nun, dass Anthropic das Sicherheitsproblem behebt, die Exportkontrolle aufgehoben wird und Fable wieder in den allgemeinen Release gehen kann."

Anthropic widersprach in einem Blogpost und erklärte, die Regierung habe lediglich Informationen über einen "potenziellen", nicht aber über einen verifizierten, kritischen Jailbreak erhalten. Das Unternehmen geht jedoch davon aus, dass die Behörden Kenntnis von einer Methode erlangt haben, mit der die Schutzmechanismen von Fable 5 teilweise umgangen werden könnten. Eine Demonstration dieser Technik habe Anthropic geprüft und festgestellt, dass dabei einige bereits bekannte und vergleichsweise einfache Schwachstellen genutzt worden seien.

Zugleich verwies der KI-Entwickler darauf, dass ähnliche Ergebnisse auch mit anderen öffentlich verfügbaren KI-Modellen erzielt werden könnten, ohne dass dafür spezielle Umgehungsmethoden erforderlich seien. Andere, frei zugängliche Modelle auf dem Markt der Konkurrenz (genannt wird GPT-5.5) würden über ganz ähnliche Fähigkeiten verfügen. Ein vergleichbarer Maßstab bei allen führenden KI-Anbietern könnte faktisch die Einführung neuer Modelle verhindern, warnte das Unternehmen.

Das Unternehmen hatte Mythos wochenlang als "zu gefährlich für die Öffentlichkeit" inszeniert, um Exklusivität zu generieren. Fable 5 werde bereits von Hunderten Millionen Menschen genutzt, erklärte Anthropic und stellte die Verhältnismäßigkeit der Maßnahme infrage. Aus Sicht des KI-Anbieters rechtfertige ein begrenzter potenzieller Jailbreak nicht die Rücknahme eines kommerziellen Modells.

Folgen für Kunden und Branche

Anthropic räumte zugleich ein, dass eine vollständige Absicherung gegen sämtliche Jailbreak-Techniken derzeit branchenweit nicht möglich sei. Die Schutzmechanismen seien gemeinsam mit Behörden, externen Organisationen und internen Teams in mehreren tausend Stunden sogenannter Red-Teaming-Tests überprüft worden. Andere KI-Modelle von Anthropic seien von der Maßnahme nicht betroffen.

Das Unternehmen entschuldigte sich bei seinen Kunden für die Einschränkungen und erklärte, man gehe derzeit von einem Missverständnis aus. Anthropic arbeite daran, den Zugriff auf Fable 5 und Mythos 5 so schnell wie möglich wieder freizugeben. Zugleich forderte der Konzern, dass staatliche Stellen die Möglichkeit haben sollten, die Veröffentlichung unsicherer KI-Modelle zu untersagen - ein solches Vorgehen müsse jedoch auf einem transparenten, fairen und technisch nachvollziehbaren Verfahren beruhen. Die Exportkontrollanordnung wurde dem Unternehmen am Freitag zugestellt.

Die Veröffentlichung des Modells und seine beispiellose Abschaltung werfen grundlegende Fragen zur Rolle privater Investoren in der KI-Sicherheitspolitik auf. Der Vorgang verdeutlicht, wie eng wirtschaftliche Interessen - Amazon ist Großinvestor und Cloud-Partner von Anthropic - und nationale Sicherheitsbehörden in den USA verflochten sind, wenn es um den Umgang mit leistungsfähigen KI-Systemen geht.

Der Bericht über die Vorgänge stammt unter anderem von Julia Walter aus der Redaktion von finanzen.net, datiert auf den 14. Juni 2026. Der zugrunde liegende US-Bericht wurde von Peter Zellinger verfasst.