Papst Leo XIV. warnt in erster Enzyklika vor Risiken der Künstlichen Intelligenz

Das Dokument prangert die Ausbeutung in globalen Liefer- und Datenketten an. 'Nichts ist in der Welt der KI immateriell oder magisch', stellt der Papst klar und verweist auf schlecht bezahlte Datenarbeit und gefährliche Rohstoffgewinnung.

Kritik an Ausbeutung und Entmenschlichung

In drastischen Worten verurteilt das Schreiben die Verletzung von Menschenrechten: 'Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt.' Auch die digitale Ausbeutung durch Menschenhandel wird thematisiert, bei der Menschen zu 'Daten' und 'Paketen' degradiert werden.

Hinter jedem digitalen Dienst stehe die oft unsichtbare Arbeit von Millionen Menschen, betont die Enzyklika. Der Papst sieht darin eine 'Kette der Ausbeutung und Abhängigkeit' und fordert, dass Eigentum an Nutzerdaten reguliert werden müsse.

Papst Leo XIV. warnte außerdem vor KI-gestützten autonomen Waffensystemen, die Kriege seiner Ansicht nach führbarer gemacht hätten. Er forderte, KI müsse 'abgerüstet' werden und Maschinen dürften nicht allein über Leben und Tod entscheiden: 'Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen.'

Krieg, Fälschung und fehlendes Gewissen

Die Enzyklika ruft eindringlich zur Wachsamkeit gegenüber Fälschungen und Lügen durch KI auf. 'Sprache, Verhalten und Beurteilungen imitieren' könnten immer ausgefeiltere Algorithmen, schreibt der Papst, und warnt: 'Bleiben wir der Wahrheit treu!'

Trotz aller Risiken sieht das Schreiben die Technologie nicht nur negativ. Der Papst mahnt jedoch, dass KI kein Bewusstsein, kein moralisches Gewissen und kein Verständnis für 'Liebe, Arbeit, Freundschaft und Verantwortung' besitze: 'Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt.'

An der Vorstellung der Enzyklika nahm auch Chris Olah, Mitgründer des KI-Konzerns Anthropic, teil. Das Unternehmen aus San Francisco liegt im Streit mit der US-Regierung unter Präsident Donald Trump, weil es seine KI-Modelle nicht für autonome Waffen und zivile Überwachung zur Verfügung stellt.

Politischer Kontext und päpstliche Forderungen

Donald Trump wurde in dem Schreiben nicht namentlich genannt, doch die Kritik an einer von wenigen bestimmten Moral trifft ihn indirekt. Trump hatte zuletzt wiederholt sowohl Anthropic als auch den Papst attackiert und auf dem Höhepunkt der Auseinandersetzung ein KI-generiertes Bild veröffentlicht, das ihn selbst als Jesus zeigt.

Der Papst betont in 'Magnifica Humanitas' die Bedeutung internationaler Organisationen und diplomatischer Instrumente zur Konfliktlösung. Dialog und multilaterale Zusammenarbeit seien unverzichtbar, um Krisen zu verhindern und Vertrauen wiederherzustellen.

Das Datum der Veröffentlichung – der 15. Mai – markierte den 135. Jahrestag der Enzyklika 'Rerum novarum' von Papst Leo XIII. Jene hatte im Zuge der Industriellen Revolution die Grundlagen der katholischen Soziallehre gelegt. Leo XIV. knüpft nun an diese Tradition an und fordert, dass der Einsatz von KI – insbesondere bei öffentlichen Gütern und Grundrechten – 'von klaren Kriterien und wirksamen Kontrollen begleitet wird'.

Leo XIV. ist der erste Pontifex aus den Vereinigten Staaten. Der 70-Jährige steht seit Mai des Vorjahres als Nachfolger des verstorbenen Papstes Franziskus an der Spitze der weltweit rund 1,4 Milliarden Katholiken. Er hat sich bereits mehrfach zu Chancen und Risiken der KI geäußert.