Forscher warnen vor Sicherheitsrisiken durch OpenAIs Astra-Modell

Beobachterinnen und Beobachter sehen in dem Vorgehen ein grundlegendes Problem: Wenn selbst externe Prüfer keinen ausreichenden Einblick in die Funktionsweise eines Modells erhalten, sinke die Möglichkeit, Risiken wie Fehlfunktionen, Manipulation oder unerwünschtes Verhalten frühzeitig zu erkennen. OpenAI selbst äußerte sich zunächst nicht zu den konkreten Vorwürfen.

Unklar bleibt, welche konkreten Sicherheitsvorfälle während der Testphase aufgetreten sind und welche Konsequenzen das Unternehmen daraus gezogen hat. Auch der genaue Zeitplan für eine mögliche Veröffentlichung von Astra ist offen. Branchenkennerinnen und Branchenkenner erwarten, dass die Diskussion über mehr Transparenz bei großen KI-Modellen an Fahrt gewinnen wird.

Black-Box-Architekturen in der Kritik

Die Kritik an Astra reiht sich in eine breitere Debatte über den Umgang mit sogenannten „Black-Box“-Modellen ein, deren Entscheidungsprozesse selbst für die Entwicklerinnen und Entwickler nur begrenzt nachvollziehbar sind. Forschende wie Greenblatt fordern seit Langem verbindliche Standards für externe Sicherheitsüberprüfungen, bevor leistungsstarke Modelle auf den Markt gebracht werden.

OpenAI hatte zuletzt wiederholt betont, dass Sicherheit und verantwortungsvolle Entwicklung oberste Priorität hätten. Die nun bekannt gewordenen Verzögerungen und die scharfe externe Kritik stellen diese Selbstdarstellung jedoch infrage. Auch innerhalb der KI-Branche wächst der Druck, dass Hersteller ihre Test- und Freigabeprozesse offenlegen.

Mögliche Folgen für die Regulierung

Für die Regulierungsbehörden in den USA und Europa könnten die Vorfälle Anlass sein, ihre Anforderungen an die Dokumentation und externe Prüfung von KI-Modellen zu verschärfen. Erste Stimmen aus dem US-Kongress und dem Europäischen Parlament hatten in der Vergangenheit genau solche Transparenzpflichten gefordert.

Der Fall Astra zeigt nach Einschätzung von Fachleuten exemplarisch, wie sich Sicherheitsversprechen und tatsächliche Prüfbarkeit unterscheiden können. Sollte das Modell in den kommenden Wochen veröffentlicht werden, dürfte die Frage im Zentrum stehen, welche Garantien OpenAI für die Zuverlässigkeit und Kontrollierbarkeit von Astra bietet.