US-Exportstopp für Anthropic-KI: USA blockieren G7-Staaten den Zugriff auf Fable und Mythos

Anlass für das Verbot ist eine Warnung vor einer potenziellen Sicherheitslücke. Laut US-Behörden existiert eine Methode für einen sogenannten Jailbreak, mit dem die Systeme Softwareschwachstellen identifizieren können. Auslöser war ein Bericht einer Sicherheitsabteilung von Amazon, der einen vermeintlichen Jailbreak des Modells Fable beschrieb. Die Cybersicherheitsexpertin Katie Mosuris, die den Bericht eingesehen hat, widerspricht dieser Darstellung. Das Modell habe schlicht die Aufforderung "fix the Code" befolgt und einen Patch entworfen, den Menschen danach manuell prüften. Genau das solle KI in der Cybersicherheit leisten, argumentiert Mosuris. Andernfalls blieben mächtige Werkzeuge allein Angreifern vorbehalten.

Streit um die Sicherheitslücke

Anthropic widerspricht der Einstufung und bezeichnet die Schwachstelle als geringfügig. Das Unternehmen kritisierte das Vorgehen des Handelsministeriums und erklärte, dass ein isolierter potenzieller Jailbreak keinen Rückruf eines kommerziellen Modells rechtfertige, das für Millionen Menschen bereitgestellt wurde. Da Anthropic den Zugriff nicht anhand der Nationalität der Nutzer filtern kann, deaktivierte das Unternehmen die Modelle Fable 5 und Mythos 5 für alle Kunden weltweit. Andere Modelle des Entwicklers sind von den aktuellen Exportkontrollen nicht betroffen und bleiben weiterhin erreichbar.

Monatelange Spannungen mit Washington

Hintergrund der Spannungen ist eine monatelange Auseinandersetzung zwischen Washington und dem KI-Unternehmen. Zu Beginn des Jahres setzten US-Behörden das Unternehmen auf eine Blacklist für Lieferketten. Grund war die Weigerung von Anthropic, seine Modelle für die Inlandsüberwachung des US-Militärs und für autonome Waffensysteme freizugeben. Die Spannungen zwischen der US-Regierung und dem KI-Unternehmen bestehen bereits seit Monaten.

Die Exportkontrolldirektive griff nur drei Tage nach der Veröffentlichung von Fable 5, obwohl das Unternehmen die Sicherheitsvorkehrungen im Vorfeld mit staatlichen Stellen getestet hatte. Anthropic hatte zuvor sein KI-Modell Mythos mit Sicherheitsschranken unter dem Namen Fable veröffentlicht. Eine Version des Modells namens "Mythos" soll es laut Berichten Hackern ermöglichen, automatisch nach Schwachstellen in Firmennetzwerken zu suchen. Nach Angaben von Anthropic ist Fable 5 im Vergleich zu Mythos nicht in der Lage, Cyberschwachstellen auszunutzen.

G7-Gipfel: Keine Ausnahme für Großbritannien

Beim G7-Gipfel in Evian-les-Bains, Frankreich, verlangte der britische Premierminister Keir Starmer eine Sonderregelung für britische Staatsbürger und Unternehmen, um die Modelle Mythos und Fable weiterhin nutzen zu können. Ein Sprecher des Premierministers gab die Forderung vor einem Mittagessen der G7-Staats- und Regierungschefs mit Tech-CEOs bekannt. Ein US-Regierungsmitarbeiter wies diese Forderung jedoch zurück und erklärte, eine Ausnahme für Verbündete sei unlogisch. Großbritannien hat demnach keine Ausnahme von den US-Exportkontrollen angestrebt, wie zunächst vermutet worden war.

Die US-Regierung begründet den Schritt mit Bedenken hinsichtlich der nationalen Sicherheit. Washington hält bislang an der Maßnahme fest. Vertreter des Weißen Hauses führen derzeit Gespräche mit Anthropic, um eine Lösung für den Konflikt zu finden. Ein Regierungsvertreter deutete an, dass eine direkte Einigung mit dem CEO von Anthropic, Dario Amodei, angestrebt werde. Verhandlungen mit dem Hersteller laufen, eine Einigung steht aus.

Militärische Nutzung und Menschenrechte

Die Debatte fällt in eine Phase, in der die führende Rolle der USA im Bereich KI unter Druck gerät. Zugleich holt China stetig auf. US-Tech-Konzerne investieren Hunderte Milliarden Dollar in den Ausbau von Rechenzentren. OpenAI und Google sind von den derzeitigen Exportbeschränkungen nicht betroffen. In der Kritik stehen Google, Microsoft und OpenAI, die Milliarden mit Militäraufträgen verdienen. Auch in Gaza, im Libanon und im Iran sind automatisierte Systeme zur Überwachung und Zielgenerierung im Einsatz. Über 200 Menschenrechtsorganisationen, darunter Amnesty International, fordern den sofortigen Stopp von KI-Systemen in militärischen Tötungsketten. Die Organisationen sprechen von "Massenabfertigung", die Angriffe im Minutentakt autorisiere.

Ein Bericht des New Scientist nennt einen ersten bestätigten Fall: Vollautonome Drohnen sollen im "Terminator-Modus" eigenständig feindliche Soldaten getötet haben, ohne menschliche Kontrolle. Anthropic warnt, dass solche staatlichen Maßnahmen die Bereitstellung neuer Spitzenmodelle der gesamten Branche blockierten, sofern diese Standards flächendeckend angewendet würden. Das könnte die Tech-Aktien abstürzen lassen – denn die preisen Fortschritte in Sachen KI bereits ein. Wenn Claude Fable für alle Nutzer blockiert bleibt, ist das ein fatales Signal an die KI-Szene. Es würde bedeuten, dass sich Investitionen in bessere KI nicht mehr auszahlen.

Europas Sorge um digitale Souveränität

Der Vorfall hat in Europa die Diskussion über digitale Souveränität neu befeuert. Die Europäische Kommission hat bereits Initiativen und Investitionen angekündigt, um die Abhängigkeit von den Vereinigten Staaten zu verringern. In Großbritannien verstärkte der Fall Sorgen vor einer zu großen Abhängigkeit von US-Technologie. Es wird über eine sogenannte "Trusted Partnership" diskutiert, im Rahmen derer Länder mit einem besonders vertrauensvollen Verhältnis zu den USA Zugang zu US-KI erhalten sollen.

Wer entscheidet, was "gefährlich" ist?

Wie kann man verhindern, dass KI für Cyberangriffe oder biologische Waffen missbraucht wird? Bei KI-Modellen weiss noch keiner, welche Kriterien gelten sollten. Ab wann droht durch sie Gefahr? Problematisch war, dass Anthropic entschied, wer vertrauenswürdig ist und wer nicht. Es gewährte ausgewählten Firmen vorab Zugang zu seinen Modellen. Sie sollten so einen Vorsprung haben, um sich zu schützen, bevor Angreifer auf die neuen KI-Fähigkeiten Zugriff erhielten. Erstens sind ein Grossteil der Angestellten in allen KI-Firmen Ausländer. Da selbst die Gründer von Anthropic nicht alle Amerikaner sind, sperrte das Unternehmen den Zugang komplett.

Die Kommentare zum Thema fallen deutlich aus: Der KI-Wettlauf brauche globale Leitplanken statt nationaler Blockaden, heißt es in einem Meinungsbeitrag. Die Kontrolle der Staatsbürgerschaft sei offensichtlich kein geeignetes Kriterium, um zu verhindern, dass KI für kriminelle Zwecke genutzt werde. In Europa und der Schweiz gebe es derzeit keine wirklichen Alternativen zur KI aus den USA – in Frankreich gebe es zwar Mistral und in der Schweiz Apertus, die seien aber nicht auf dem gleichen Niveau wie die KI von Anthropic oder OpenAI. Dies betont auch Myriam Dunn Cavelty, Spezialistin für Cybersicherheit und Sicherheitspolitik am Center for Security Studies der ETH Zürich.

Ausblick: Verhandlungen und Folgen

Zuletzt hatte Anthropic häufig vor den Gefahren übermächtiger künstlicher Intelligenz gewarnt. Nun gerät das Unternehmen selbst ins Visier der US-Sicherheitsbehörden. Die CEOs von OpenAI, Anthropic und Googles KI-Sparte reisen unterdessen zum G7-Gipfel nach Frankreich, um dort unter anderem über die Zukunft der KI-Regulierung zu sprechen. Die US-Regierung hat am Wochenende die Anthropic-Modelle Fable 5 und Mythos 5 unter einer Exportkontrolldirektive gesperrt. Ein weiterer Faktor für die Sperre soll ein chinesischer Zugriff auf das vollständige Mythos-Modell gewesen sein.

Die US-Regierung hat am Wochenende die Anthropic-Modelle Fable 5 und Mythos 5 unter einer Exportkontrolldirektive gesperrt. Die US-Regierung verweigert den G7-Mitgliedstaaten den Zugriff auf die hochentwickelten KI-Modelle des US-Entwicklers Anthropic. Die USA sind in Sachen KI die führende Nation – doch der Streit um den Export der eigenen Spitzentechnologie könnte diesen Vorsprung mittelfristig in Frage stellen.