Mehr als 100 Unternehmen warnen vor Cyberrisiken durch KI-Agenten

Strukturierter Vorschlag aus der Wirtschaft

Zu den Unterzeichnern gehören laut den Veröffentlichungen mehrere große Technologiekonzerne und Sicherheitsfirmen. Genannt werden unter anderem OpenAI, Anthropic und SAP. Auch die Forschungs- und Sicherheitscommunity ist eingebunden. Die Breite des Bündnisses solle zeigen, dass die Risiken nicht mehr nur einzelne Branchen beträfen, sondern die gesamte digitale Wirtschaft.

Die Sorge richtet sich vor allem auf KI-Agenten – Software, die Aufgaben eigenständig plant und ausführt. Während klassische Automatisierungstools starren Regeln folgen, können solche Agenten Entscheidungen treffen, Werkzeuge kombinieren und sich an neue Situationen anpassen. Genau diese Eigenschaften machten sie aus Sicht der Autoren für Angreifer interessant, etwa beim Auffinden von Schwachstellen oder beim automatisierten Ausnutzen bekannt gewordener Sicherheitslücken.

Jürgen Schmidt, Sicherheitsexperte bei einem beteiligten Unternehmen, erklärte gegenüber Journalisten, die heutigen Abwehrmechanismen seien auf statische Bedrohungen ausgelegt. "Wir sehen Angriffe, die in Minuten ablaufen und nicht in Tagen", sagte er. Das verändere die Spielregeln und erfordere eine andere Geschwindigkeit in Erkennung und Reaktion.

Warum KI-Agenten die Bedrohung verändern

Die Verfasser des Briefes verweisen darauf, dass die zugrunde liegenden KI-Modelle immer leistungsfähiger würden. Damit wachse auch das Potenzial, sie gegen die eigene Infrastruktur einzusetzen. Eine frühzeitige Auseinandersetzung mit möglichen Schwachstellen sei daher keine Option, sondern eine Notwendigkeit. Gleichzeitig betonen sie, dass dieselben Technologien auch zur Verteidigung genutzt werden könnten.

Konkret fordern die Unterzeichner unter anderem verbindliche Sicherheitsstandards für KI-Agenten, verpflichtende Tests vor dem Einsatz solcher Systeme und eine bessere Informationsweitergabe zwischen Forschung, Behörden und Wirtschaft. Zudem solle die Ausbildung von Fachkräften für Cybersicherheit deutlich ausgeweitet werden, um den bestehenden Personalmangel zu verringern.

Der Brief formuliert zudem einen Zeitdruck: Das aktuelle Zeitfenster, um verbindliche Regeln zu entwickeln und technische Schutzmaßnahmen zu implementieren, sei begrenzt. Werde es verpasst, drohe eine Phase, in der Angriffe skalierten, bevor Abwehrsysteme nachziehen könnten.

Konkrete Forderungen an Politik und Wirtschaft

Beobachter sehen in der Initiative eine der bisher breitesten Branchenreaktionen auf KI-spezifische Cyberrisiken. Verglichen mit früheren Stellungnahmen, die meist von einzelnen Firmen oder Forschungsgruppen kamen, bündele der Aufruf Akteure aus Wirtschaft, Forschung und Sicherheitsbehörden.

Die Unterzeichner kündigten an, ihre Vorschläge in den kommenden Wochen in politische Prozesse einzubringen. Dazu zählten Gespräche mit Regulierungsbehörden sowie Beiträge zu laufenden Normierungsverfahren. Offen sei allerdings noch, wie verbindlich solche Standards am Ende würden.

In einem zweiten Schritt soll das Bündnis konkrete Pilotprojekte starten, um zu testen, wie sich KI-Agenten in kontrollierten Umgebungen überwachen und eingrenzen lassen. Erkenntnisse daraus sollen später in öffentliche Leitlinien einfließen.

Pilotprojekte als nächster Schritt

Insgesamt zeichnen die Verfasser das Bild einer Technologie, die Chancen und Risiken zugleich vergrößert. Ihr Appell richtet sich daher nicht nur an die Politik, sondern ausdrücklich auch an Unternehmen jeder Größe, ihre eigenen KI- und Sicherheitsstrategien zu überprüfen.