Vatikan gegen Killer-Roboter: Papst Leo XIV. warnt vor KI-Krieg und Tech-Kolonialismus

'Entwaffnen bedeutet nicht, auf Technologie zu verzichten, sondern zu verhindern, dass sie die Menschheit beherrscht', schreibt der Papst. 'Aus diesem Grund reicht es nicht aus, sie lediglich zu regulieren; sie muss entwaffnet, einladend und zugänglich werden.'

In einem direkten Appell gegen KI-gestützte autonome Waffen erklärt das Dokument: 'Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen.' Zugleich wird betont, dass die Theorie des 'gerechten Krieges', die allzu oft zur Rechtfertigung jeglicher Kriege herangezogen wurde, heute überholt sei: 'Kein Algorithmus kann Krieg moralisch akzeptabel machen.'

Klare Verbote für tödliche autonome Waffen

Der Papst besteht darauf, dass die Verantwortung für militärische und insbesondere tödliche Handlungen immer beim Menschen bleiben müsse. Er fordert Nachverfolgbarkeit in Entscheidungsprozessen der Kriegsführung, menschliche Kontrolle und die Schaffung internationaler Gesetze zum Umgang mit automatisierten Waffen.

Neben der militärischen Dimension widmet sich die Enzyklika ausführlich der wirtschaftlichen und sozialen Machtkonzentration. 'Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen', schreibt der Papst.

Er warnt vor einem 'neuen Kolonialismus' durch wenige global agierende Unternehmen und spricht von einer 'neuen Form der kolonialen Herrschaft'. KI-Tendenzen, die Macht derjenigen zu verstärken, die bereits über wirtschaftliche Ressourcen, Fachwissen und Datenzugang verfügen, verschärften die Kluft 'zwischen denen, die an der digitalen Revolution teilhaben können, und denen, die am Rande bleiben'.

Der neue Tech-Kolonialismus und die Macht über Daten

Leo beklagt, dass Daten – von Gesundheitsflüssen über genetische Karten bis zu demografischen Informationen – zu 'den neuen Seltenen Erden der Macht' geworden seien. 'Darin liegt eine der dringendsten moralischen Herausforderungen unserer Zeit: sicherzustellen, dass geteiltes Wissen ein echtes Gemeingut wird und kein Instrument der Herrschaft', schreibt er.

Der Papst betont die Würde des Menschen, die nicht von Fähigkeiten, Reichtum oder Entscheidungen abhänge, sondern allein durch die Existenz gegeben sei. KI könne zwar 'Sprache, Verhalten und Beurteilungen imitieren', besitze aber kein Bewusstsein, kein moralisches Gewissen und verstehe weder 'Liebe, Arbeit, Freundschaft und Verantwortung'.

'Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt', heißt es. Die Übertragung von Entscheidungen an Maschinen berge die Gefahr, persönliche Kreativität und Urteilsfähigkeit zu schwächen.

Ein zentrales Anliegen des Lehrschreibens ist die oft unsichtbare menschliche Arbeit hinter digitalen Leistungen. 'Nichts ist in der Welt der KI immateriell oder magisch', schreibt der Papst. 'Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt.'

Unsichtbare Ausbeutung: Die Spur hinter der KI

Hinter scheinbar 'immateriellen' KI-Systemen stehe eine Kette von Ausbeutung und Abhängigkeit. Auch Menschenhandel im digitalen Raum wird thematisiert, bei dem Menschen zu 'Daten' und 'Paketen' degradiert würden. Der Papst warnt vor 'neuen Formen der Sklaverei', die von der Extraktion seltener Erden für KI-Hardware bis zum Training von Modellen mit urheberrechtlich geschütztem Material reichten.

In einem historischen Schuldeingeständnis bittet Leo im Namen der Kirche aufrichtig um Verzeihung für das lange Zögern der Kirche bei der Verurteilung der Sklaverei, die erst durch Leo XIII. im 19. Jahrhundert vollständig geächtet wurde.

Der Papst richtet sich auch gegen transhumanistische und posthumanistische Philosophien aus dem Silicon Valley, die Fortschritt als Überwindung der menschlichen Bedingungen deuten und Begrenzungen wie Krankheit oder Alter als zu beseitigen betrachten. 'Wir müssen uns daran erinnern, dass die Menschheit nicht trotz, sondern oft durch ihre Grenzen aufblüht', schreibt er.

Menschliche Würde gegen Silicon Valley-Ideologien

Kardinal Víctor Manuel Fernández, Präfekt des Glaubensdikasteriums, sagte bei der Vorstellung, die katholische Lehre glaube im Gegensatz zu solchen Philosophien, 'dass jeder Mensch eine unendliche Würde besitzt'.

Die Enzyklika nimmt eine klare Abgrenzung zu vermeintlich neutraler Technologie vor. 'Technologie ist niemals neutral', schreibt Leo; sie sei Ausdruck der Interessen und Akteure dahinter. 'Wir können KI nicht als moralisch neutral betrachten.' Wenn Macht in den Händen weniger konzentriert sei, werde sie undurchsichtig und entziehe sich öffentlicher Kontrolle – 'was das Risiko verzerrter Formen der Entwicklung erhöht, die neue Abhängigkeiten, Ausgrenzungen, Manipulationen und Ungleichheiten schaffen'.

Leo fordert klare Verantwortung auf allen Stufen: von Entwicklern über Betreiber bis zu Nutzern. Selbst KI-Modelle mit ethischen Leitlinien müssten gemeinsam diskutiert und an Kriterien sozialer Gerechtigkeit gemessen werden. 'Eine moralischere KI reicht nicht aus, wenn diese Moral von einigen wenigen bestimmt wird', betont er.

Verantwortung aller: Vom Entwickler bis zum Nutzer

Die Vorstellung der Enzyklika fand im Beisein von Chris Olah, Mitgründer des für Sicherheit werbenden KI-Unternehmens Anthropic, statt. Olah sagte, die KI-Entwicklung operiere 'innerhalb eines Geflechts von Anreizen und Zwängen, die manchmal mit dem Richtigen in Konflikt geraten können', und rief dazu auf, 'mehr von der Welt – Religionsgemeinschaften, Zivilgesellschaft, Wissenschaftler, Regierungen – muss das tun, was Seine Heiligkeit hier getan hat: dies ernst zu nehmen, genau hinzusehen und die Dinge in eine bessere Richtung zu lenken'.

Der Papst selbst erklärte, er fühle sich berufen, 'eine weitere große Transformation mit den Augen des Glaubens zu begleiten', und das Lehrschreiben sei das Ergebnis tiefen Zuhörens bei Wissenschaftlern, Politikern, Eltern und Lehrern. 'Entwaffnen ist nicht genug, wir müssen aufbauen', forderte er und rief zu breiter Beteiligung an der Gestaltung der KI auf.

Die Enzyklika verweist auf den 135. Jahrestag von 'Rerum Novarum', mit der sein Namensvetter Leo XIII. die katholische Soziallehre angesichts der industriellen Revolution begründete. Leo XIV. stellt sein Schreiben bewusst in diese Tradition und sieht KI als neue industrielle Revolution, die nach denselben Prinzipien sozialer Gerechtigkeit gestaltet werden müsse.

Historische Einordnung und Reaktionen

Brian Patrick Green, Direktor für Technologieethik an der Santa Clara University, nannte das Schreiben 'eine bahnbrechende Gelegenheit für die Welt, eine neue Technologie zu betrachten und wirklich darüber nachzudenken, wofür sie da ist'.

Leo XIV. schließt mit einem biblischen Bild: dem Turmbau zu Babel, der Macht und Selbstgenügsamkeit symbolisiert, und dem Wiederaufbau Jerusalems, der auf Gebet und Gemeinschaft beruht. 'Wie im Laufe der Geschichte ringen diese beiden Lieben auch heute um die Vorherrschaft in unseren Herzen. Das Zeitalter der KI bildet da keine Ausnahme: Der Bau Babels oder der Wiederaufbau Jerusalems beginnt in jedem Einzelnen von uns.'

Die Forderungen des Papstes richten sich auch an die junge Generation. Er mahnt, Bildung über KI müsse besonders für Jugendliche gefördert werden, und besteht darauf, dass das Tempo der Einführung von KI verlangsamt werden könne – nicht aus Fortschrittsfeindlichkeit, sondern aus 'verantwortlicher Sorge für die Menschheitsfamilie'.