Mehr als 1.100 Beschäftigte der KI-Unternehmen OpenAI, Anthropic, Google und Meta haben die US-Regierung aufgefordert, sich an einer internationalen Anstrengung zu beteiligen, um den Fortschritt bei der automatisierten Entwicklung Künstlicher Intelligenz gezielt zu verlangsamen.
Was die Unterzeichner konkret fordern
In einem gemeinsamen Schreiben, das auf Arbeitnehmerseite aus den vier größten US-amerikanischen KI-Laboren unterzeichnet wurde, appellieren die Unterzeichner an die US-Regierung, den Kurs bei der Weiterentwicklung leistungsfähiger KI-Systeme zu überdenken. Sie fordern demokratisch legitimierte Kontrollen, bevor die nächste Generation sogenannter automatisierter KI-Systeme in den Einsatz gebracht wird. Konkrete technische Details zu möglichen Schutzmaßnahmen, die geforderten Grenzwerte oder Zeitpläne werden in dem Schreiben nicht öffentlich aufgeführt.
Die Unterzeichner kommen ausgerechnet von Firmen, die bislang als Treiber schneller KI-Entwicklung gelten. OpenAI, das Unternehmen hinter ChatGPT, sowie Anthropic, Google und Meta investieren seit Jahren Milliarden in immer leistungsfähigere Modelle. Die jetzt dokumentierte Haltung aus den eigenen Belegschaften deutet darauf hin, dass Teile der Belegschaften Risiken sehen, die öffentlich sichtbar werden sollen. In den vergangenen Wochen hatten Warnungen vor KI-Risiken auch von prominenten Stimmen wie Sam Altman zugenommen, der als Anführer der KI-Branche internationale Standards immer wieder eingefordert hatte.
Beobachter werten den kollektiven Schritt als ein außergewöhnliches Signal innerhalb der Tech-Industrie, in der Beschäftigte sich selten öffentlich gegen die eigene Geschäftsleitung stellen. Branchenkreise verweisen darauf, dass die Tech-Industrie insgesamt 15 Berichte und Bewertungen zu dem Vorgang veröffentlicht hat. Über den genauen Kreis der Unterzeichner oder ihre hierarchische Zuordnung innerhalb der jeweiligen Unternehmen machen die Verfasser keine präzisen Angaben.
Hintergrund: Was bedeutet „automatisierte KI-Entwicklung“?
Hinter dem Begriff der „automatisierten KI-Entwicklung“ steht ein Szenario, in dem KI-Systeme künftig selbstständig bessere KI-Systeme entwickeln können sollen. Befürworter sehen darin einen möglichen Produktivitätsschub, Kritiker warnen, dass dadurch die Kontrolle über die technologische Richtung verloren gehen könnte. Der gemeinsame Aufruf zielt darauf, diese Entwicklung nicht in einem unregulierten Wettbewerb zu vollziehen, sondern unter demokratischer Aufsicht.
Welche konkreten Maßnahmen die Unterzeichner vorschlagen, wurde bislang nicht im Detail veröffentlicht. Auch bleibt offen, welche Regierungen außer den USA sich dem Anliegen anschließen sollen. In den vergangenen Monaten hatten mehrere Industrievertreter internationale Standards nach dem Vorbild von Atomaufsichtsbehörden ins Gespräch gebracht, ohne dass eine verbindliche Einigung erzielt wurde.