Anthropic-Chef Amodei warnt vor zu schnellem KI-Wettlauf und plädiert für Bremstempo

Dabei verwies er auf einen konkreten Warnpunkt: Für die kommenden sechs bis zwölf Monate skizzierte Amodei ein Szenario, in dem ein vernetztes KI-System das gesamte Internet mit einem dauerhaften Botnetz überziehen und Schäden in Höhe von mehreren hundert Milliarden Dollar verursachen könnte. Diese Größenordnung nannte er als Orientierungswert, nicht als exakte Prognose.

Risikoszenario: Milliardenschäden durch ein Botnetz

Sein Vorschlag steht im Kontrast zum Tempo großer Wettbewerber. Branche und Politik beobachten den zunehmenden Wettlauf zwischen mehreren KI-Entwicklern, darunter OpenAI mit seinem Chef Sam Altman. Eine konkrete Verlangsamung bei führenden Modellen würde den Druck auf die schneller fortschreitenden Konkurrente erhöhen, entsprechend zog Amodei Parallelen zum Sprung vom GPT-2- zum GPT-4-Standard in früheren Jahren.

Im Hintergrund steht ein politisches Bild, in dem verbindliche Regeln für KI bislang schwer durchsetzbar sind. Versuche, staatliche KI-Regulierungen auf Bundesebene in den USA zu verbieten, sind nach verfügbaren Informationen im vergangenen Jahr im Kongress ins Stocken geraten – ein Hinweis darauf, dass der Ordnungsrahmen für die Branche weiter offen ist.

Beobachter werten Amodeis Äußerungen als Versuch, die Debatte über KI-Risiken aufrechtzuerhalten, während die Modelle immer leistungsfähiger werden. Er gilt als eine der bekannteren Stimmen, die auf Risiken durch autonome KI-Systeme hinweisen, ohne die weitere Entwicklung grundsätzlich in Frage zu stellen.

Politischer Rahmen: stockende Regulierung

Die unmittelbaren wirtschaftlichen Folgen einer freiwilligen Verlangsamung an der Spitze wären nach Einschätzung von Branchenbeobachtern überschaubar, könnten aber den Wettbewerbsvorteil einzelner Anbieter verändern. Investoren verfolgen die Debatte aufmerksam, da Geschwindigkeit und Sicherheit in einem Spannungsverhältnis stehen.

Anthropic gehört zu den Unternehmen, die besonders leistungsfähige KI-Modelle entwickeln und sich öffentlich zu Sicherheitsfragen äußern. Amodei hatte in früheren Stellungnahmen bereits vor einer möglichen Destabilisierung durch mächtige KI-Systeme gewarnt und parallel betont, dass deren Nutzen groß sein könne, wenn die Risiken beherrschbar bleiben.

Eine Reihe staatlicher Initiativen in den USA sieht sich Vorwürfen ausgesetzt, mehr auf Geschwindigkeit als auf Sicherheit zu setzen. Präsident Donald Trump und sein Umfeld treiben eine Strategie voran, die im internationalen Wettbewerb – insbesondere mit China – technologische Führungspositionen sichern soll. Branchenvertreter wie Jonathan Sack von einem Beratungsunternehmen für Risikofragen sowie Sprecher von OpenAI äußerten sich laut Berichten zurückhaltender.

Ausblick: Reaktion der Wettbewerber

Gleichzeitig wächst der Druck auf freiwillige Selbstverpflichtungen, weil greifende Bundesregeln fehlen. Anthropic setzt nach eigenem Bekunden auf eigene Sicherheitsstandards und den Dialog mit Regulierungsbehörden, während die weitere Geschwindigkeit des Wettbewerbs offenkundig von den Strategien einzelner Unternehmen abhängen wird.

Für die nächsten Monate rechnen Beobachter vor allem mit drei Entwicklungen: einer Reaktion der Wettbewerber auf den Vorstoß Amodeis, einer Neubewertung der Risikoszenarien in Fachkreisen und einer möglichen politischen Debatte über ein Tempolimit an der Spitze der KI-Entwicklung. Jacob Coxon, ein bekannter Kommentator der Szene, hatte zuletzt auf die Notwendigkeit verwiesen, Geschwindigkeit und Schutz in ein ausgewogenes Verhältnis zu bringen.

In der Fachöffentlichkeit wird die Idee eines gebremsten Spitzentempos kontrovers diskutiert. Befürworter sehen darin die Möglichkeit, Zeit für Tests und Sicherheitsvorkehrungen zu gewinnen. Kritiker argumentieren, dass eine einseitige Verlangsamung in einem internationalen Wettbewerbsumfeld kaum durchzuhalten ist, da andere Akteure – auch staatliche – das Tempo bestimmen könnten.