People #28: Gut gebrüllt, Leo!

Eine Art Rezension

Papst Leo XIV verfasst ein Rundschreiben über Künstliche Intelligenz. Normalerweise erwartet man vom Oberhaupt einer doch recht konservativen Einrichtung wie der Katholischen Kirche, dass sich da jemand in langen moralgetränkten Ausführungen ergeht, mit denen man zwar fromme Gläubige abholen kann, aber doch keine Zeitgenoss:innen mit einem gesunden, kritischen Verstand. (Sorry für diesen etwas plakativen Gegensatz.) Normalerweise.

Was der amerikanische Staatsbürger Robert F. Prevost unter seinem Papstnamen hier verfasst hat – ich denke, er hatte dabei ein kompetentes Team zur Seite –, ist wider Erwarten eine sehr sachverständige Darstellung der aktuellen Entwicklungen von Künstlicher Intelligenz, die interessante Zusammenhänge, Hintergründe und Hintergründigkeiten anspricht. Da wird vieles schlüssig, auch für einen skeptischen evangelischen Theologen wie mich, der sich überlegt, wie er als Lehrer mit KI im Unterricht umgehen kann oder soll.

Ehe ich inhaltlich einsteige, ein Satz zur Zitierweise: Die Enzyklika (= „Rundschreiben“) ist in Absätze aufgeteilt, die durchnummeriert sind von 1 bis 245. Das erleichtert das Auffinden einer bestimmten Stelle sehr. Ich setze die Absatznummern in Klammern ans Ende der Zitate, hebe einige Stellen hervor und benutze dabei die Version, die der Vatikan unter diesem Link zur Verfügung stellt: https://www.vatican.va/content/leo-xiv/de/encyclicals/documents/20260515-magnifica-humanitas.html#_ftnref1

1 Habeas Fundamentum!

Das ist sein zentrales Anliegen in meinen Worten: Du brauchst ein Fundament, also eine Werte-Grundlage, von der aus du die Formen, Aussagen und Tendenzen der KI beurteilen kannst. Wer kein Fundament hat, ist den Strömungen und Stürmen der Algorithmen ausgeliefert. Natürlich bietet Leo XIV als Fundament die katholische Soziallehre an, die ein Menschenbild entwickelt habe, dem Großartigkeit innewohne. Eben deswegen nennt er dieses Rundschreiben auch „Magnifica Humanitas“ – von der Großartigkeit des Menschseins!

Ausgehend von dieser von Gott verliehenen Größe wird der Papst auch richtiggehend sauer, wenn Menschen mithilfe der KI klein gemacht werden sollen. Klein gemacht, heißt für ihn, dass ihnen die Würde genommen wird, indem man sie verzweckt, zum Datenkonglomerat macht und als solches ausbeutet oder sogar versklavt. Ja: „versklavt“. Dazu weiter unten mehr.

2 Misch dich ein!

Ehe ich thematisch einsteige, noch ein kleiner Exkurs ins politische Deutschland. Sie haben vielleicht mitbekommen, dass unsere Bundestagspräsidentin, ihres Zeichens führendes Mitglied einer sich „christlich“ nennenden Partei, die Kirchen davor warnt, sich allzu sehr in das politische Tagesgeschäft einzumischen und auf diese Weise zu einer weiteren NGO zu werden. Und NGO, also Non Governmental Organizations, das ist etwas das der christlichen Union gar nicht schmeckt. Für mich ist das der Versuch, die Kirchen in die transzendente Ecke zu stellen, wo sie sich bitte primär um das Seelenheil der Menschen zu kümmern haben.

„Die Relevanz ist gerade bei Kirchen die, dass sie über den Alltag hinausweist, dass sie eben nicht eine innerweltliche Gruppierung, eine weitere NGO ist.“ (Julia Klöckner)

So sprach unsere Bundestagspräsidentin. Anders Leo XIV unter Verweis auf die Kritik an einem seiner Vorgänger:

„Und als einige einwandten, die Kirche solle keine Energie auf weltliche Angelegenheiten verschwenden, sondern sich vielmehr darauf konzentrieren, eine Botschaft des ewigen Lebens zu vermitteln, antwortete er mit Realismus und Weisheit, dass die Verkündigung des Evangeliums das konkrete Leben der Menschen nicht außer Acht lassen darf.“ (3)

Und weil wir schon den Bereich unserer deutschen Politiker:innen streifen, noch eine kurze Erinnerung an unseren ehemaligen Finanzminister, der einstens den Wahlslogan prägte:

Das Rundschreiben zur Würde des Menschen in der digitalen Welt hat genau den entgegengesetzten Impuls, in meinen Worten:

3 Bedenken first, digital second!

Es ist das große Anliegen dieser Enzyklika, die fast einer Streitschrift nahekommt, innezuhalten, Atem zu holen und erst mal nachzudenken, ehe man die digitale Entwicklung sich einfach vollziehen lässt. Dabei ist es kein Zufall, dass sich an dieser Stelle ein Gegensatz abzeichnet, zwar nicht päpstlich vs. liberal, aber päpstlich vs. einen ungezügelten Liberalismus, der sich ins Libertäre entwickelt, Wirtschaft und Wachstum auf Kosten des Menschlichen sucht und von Leo XIV als „technokratisches Paradigma“ bezeichnet und kritisiert wird. Einige Zitate mögen illustrieren, was genau er dagegen einzuwenden hat.

Es geht gegen die Unterwerfung unter eine Logik der Effizienz:

„In der Enzyklika Laudato si’ hat Papst Franziskus die zunehmende Durchsetzung eines technokratischen Paradigmas in der globalisierten Welt angeprangert, also die Tendenz, persönliche, gesellschaftliche und wirtschaftliche Entscheidungen allein der Logik der Effizienz, der Kontrolle und des Profits zu unterwerfen… Damit wird die Schöpfung zu einem Objekt der Ausbeutung und werden die Menschen zu Rädchen in einem System erniedrigt, das immer effizienter werden muss.“ (92)

Technischer Fortschritt muss moralisch und sozial ins Gleichgewicht gebracht werden:

„Die Gefahr, dass die Menschheit Opfer ihrer eigenen Errungenschaften wird, hat der heilige Paul VI. bereits klar erkannt, als er warnte: »Die außergewöhnlichsten wissenschaftlichen Fortschritte, die erstaunlichsten technischen Errungenschaften und das beeindruckendste Wirtschaftswachstum werden sich auf lange Sicht gegen den Menschen richten, wenn sie nicht von echtem moralischen und sozialen Fortschritt begleitet werden.«“ (94) 

Mit seiner Redefigur vom „Babel-Syndrom“ meint Leo XIV Folgendes:

„Vermeiden wir also das „Babel-Syndrom“: die Vergötterung des Profits, die die Schwachen opfert… die Gefahr der Entmenschlichung… und den Anderen auf ein Mittel zu reduzieren – eine uralte und immer neue Versuchung, die heute technische Gestalt annimmt.“ (10)

Das technokratische Paradigma kann sich menschenfeindlich entwickeln:

„Die Gefahr besteht nicht nur darin, dass bestimmte Technologien missbraucht werden, sondern dass das technokratische Paradigma, von dem wir umgeben sind und das durch die digitale Revolution und KI noch verstärkt wird, eine menschenfeindliche Anschauung als richtig und normal erscheinen lässt – eine Anschauung, nach der die Fülle des Lebens darin besteht, mehr zu besitzen, Schwächen zu reduzieren, Unvorhergesehenes auszuschließen und alles unter Kontrolle zu haben.“ (112)

Diese Spur der Selbstoptimierung des Menschen verfolgt der Papst in seiner Enzyklika weiter.

4 Transhumanismus / Posthumanismus

Wer die KI-Szene beobachtet, hat möglicherweise mit einiger Verstörung die Ideen eines Peter Thiel („PayPal“, „Palantir“, „Anduril“) zur Kenntnis genommen, die von einem christlichen Magazin so beschrieben werden:

„Der Glaube an den technischen Fortschritt brachte Thiel dazu, in Technologien zu investieren, die das menschliche Leben verlängern sollen. Bereits 2006 beriet sich Thiel mit David Gobal von der  „Methusalem-Foundation“, die Teil der so genannten „Longevity“-Bewegung ist. Der Tod wird hier, wie in Tech-Unternehmen des Silicon Valley üblich, als ein Problem angesehen, das es zu lösen gilt. Neben Genetik spielen hier die Gefriertrocknung von Menschen eine Rolle, um sie später wieder aufzuwecken, sowie Transfusionen von Blut junger Menschen.“

„I stand against confiscatory taxes, totalitarian collectives, and the ideology of the inevitability of the death of every individual. For all these reasons, I still call myself ‚libertarian‘.“

Peter Thiel

In einem Manifest nennt Peter Thiel im Jahr 2009 die Unvermeidbarkeit des Todes eine „Ideologie“:

Peter Thiel ist trotz seiner programmatischen Ablehnung von Politik als Gestalterin des Miteinanders eine äußerst einflussreiche Größe im Hintergrund der amerikanischen Politik; ihm hat der derzeitige Vizepräsidenten J. D. Vance seine Position zu verdanken. Er steht als Vertreter für eine Entwicklungsrichtung von KI-Ingenieuren, die Leo XIV im Auge hat, wenn er Libertarismus und Transhumanismus scharf kritisiert und damit zeigt, dass er auf Höhe der Zeit argumentiert:

„Im Allgemeinen stellt sich der Transhumanismus eine Verbesserung des Menschen durch Technologien (Biomedizin, Human Engineering, Apparate, Algorithmen) vor, mit dem Ziel, Leistung und Fähigkeiten zu steigern… Im Lichte der Soziallehre ist der kritische Punkt hier nicht der Einsatz der Technik als solcher, sondern die ihr zugrundeliegende Auffassung: Wenn der Mensch als Material behandelt wird, das man vervollkommnen oder überwinden muss, dann wird es leichter akzeptabel, dass einige Menschen als weniger nützlich, weniger liebenswert, weniger würdig angesehen werden. Im Namen des Fortschritts kann man „notwendige Opfer“ in Betracht ziehen und so die Schwächsten den Preis für eine vermeintliche Optimierung der Spezies zahlen lassen.“ (116-117)

Dem stellt der Papst eine Art „christlichen Transhumanismus“ entgegen:

„In den Verheißungen des Transhumanismus und einiger posthumanistischer Strömungen, die eine verbesserte und fast entkörperlichte Menschheit anstreben, erkennen wir einen Wunsch, den wir alle hegen: die Sehnsucht nach einem erfüllteren Leben, das Schwächen und Leiden weniger ausgesetzt ist. Die Menschwerdung eröffnet jedoch einen anderen Weg. Während alte und neue Ideologien die Menschen dazu bringen wollen, Begrenzungen technisch zu überwinden und sich über andere zu erheben, um ihre Herrschaft auszuüben, verweist das Geheimnis des Sohnes Gottes, der sich in unsere Situation hineinbegibt, auf eine entgegengesetzte Bewegung.“ (232)

Sollte ich die Pointe richtig verstanden haben, geht es dem Oberhaupt der katholischen Kirche nicht um egozentrische Selbstoptimierung, sondern um Selbstüberwindung dadurch, dass sich Menschen Gott übergeben. Das führt dann nicht zu einer libertären Entgrenzung und Befreiung von allen Regeln und Verpflichtungen, sondern zu einer Freiheit, die deshalb keine externen Regelungen braucht, weil sie sich selbst aus freiem Willen in das alltäglich Menschliche und Mitmenschliche begibt. Das ist jetzt recht philosophisch-theologisch und vielleicht etwas wolkig gesprochen, aber vielleicht hilft Martin Luther, der diese zwiespältige Freiheit so zusammengefasst hat:

„Ein Christenmensch ist sein freier Herr über alle Dinge und niemandem untertan. Ein Christenmensch ist ein dienstbarer Knecht aller Dinge und jedermann untertan.“

Martin Luther

Oder vielleicht mit dem Kirchenvater Augustinus, noch griffiger formuliert:

„Liebe, und was du willst, das tu!“

Augustinus

In allen Tiefen oder Höhen der Argumentation werden in der Enzyklika an manchen Stellen auch griffige Formeln verwendet, die es in die tagesaktuellen Meldungen schaffen. Eine davon ist die folgende.

5 Die KI muss entwaffnet werden!

Robert F. Prevost macht deutlich, dass es nicht darum geht, komplett auf jegliche Anwendung von KI zu verzichten. Es geht ihm darum, sie zu beherrschen, anstatt dass sie Menschen beherrscht. Die Argumentation geht so:

„Entwaffnen bedeutet, diese Gleichsetzung von technischer Macht und dem Recht zu herrschen aufzubrechen. Entwaffnen bedeutet nicht, auf die Technologie zu verzichten, sondern zu verhindern, dass sie den Menschen beherrscht. Es bedeutet, sie Monopolen zu entziehen, sie hinterfragbar und anfechtbar und damit lebensfreundlich zu machen, sie der Vielfalt menschlicher Kulturen und Lebensweisen zurückzugeben. Die Aufgabe… ist ökologisch im radikalsten Sinne, denn sie betrifft eine neue Dimension unseres gemeinsamen Zuhauses. KI ist bereits eine Umwelt, die uns umgibt, und eine Macht, mit der wir uns auseinandersetzen müssen. Daher reicht es nicht aus, sie zu regulieren: Sie muss entwaffnet und lebensfreundlich gemacht werden.“ (110)

Mir gefällt, dass und wie hier von „Ökologie“ gesprochen wird: Die KI ist tatsächlich „bereits eine Umwelt, die uns umgibt“. Um sie zu beherrschen und zu entwaffnen, bedarf es auch einer „Ökologie der Kommunikation“, die der Papst so beschreibt:

„Wir müssen daher eine Ökologie der Kommunikation fördern. Auf der Ebene öffentlicher Regelungen bedeutet dies, Vorschriften zu erlassen, die die Logik hinter der Auswahl und Verbreitung von Inhalten transparenter werden lassen und den Schutz personenbezogener Daten gewährleisten.“ (137)

Dem werden noch eine Reihe weiterer Forderungen nach Regelungen und Transparenz beigefügt. Positiv überraschend ist, dass der Papst diese Forderungen auch im Hinblick auf den „eigenen Laden“ erhebt und dabei ausdrücklich die Aufklärung von kirchlichem Missbrauch ins Auge fasst:

„Mit Scham haben wir miterlebt, wie schmerzhafte Wahrheiten auch über Mitglieder der Kirche und über kirchliche Wirklichkeiten ans Licht kamen. Insbesondere einige Journalisten, denen die Wahrheit am Herzen liegt, haben eine wesentliche Rolle dabei gespielt, Ungerechtigkeit und Missbrauch ans Licht zu bringen. An sie möchte ich erneut die Worte richten, die Papst Franziskus in seiner Ansprache vor den Vatikan-Korrespondenten sagte: »Ich danke euch auch für eure Berichte darüber, was in der Kirche nicht stimmt, dafür, dass ihr uns helft, es nicht unter den Teppich zu kehren, und für die Stimme, die ihr den Opfern von Missbrauch gegeben habt.«“ (138)

Es ist nicht möglich, die Fülle von Gedanken, die in dieser Enzyklika stecken, in einer relativ kurzen Zusammenfassung darzustellen. Ich will im Folgenden noch auf zwei Bereiche eingehen, in denen Regelungen und Transparenz als notwendig angesehen werden.

6 Die subtile Lenkung durch Algorithmen

Neben den deutlich hervortretenden Manipulationen durch die KI gibt es auch heimlichere Formen der Beeinflussung, nämlich…

„… wenn KI-Systeme, die sich neutral und objektiv geben, Stereotypen oder ideologische Standpunkte ihrer Entwickler und Programmierer widerspiegeln und verstärken.“ (102)

Der Papst argumentiert auf Höhe der Zeit. Um das zu unterstreichen, verweise ich auf eine für uns Lehrkräfte wichtige Arbeit von Steven Watson und Megan Ennion, einem Systemtheoretiker und einer Erziehungswissenschaftlerin der University of Cambridge:

Ennion, Megan; Watson, Steven (2025): Programmed to Behave: Behavioural Influence and Meaning Mediation in Education in the Age of Generative AI.

Im Abstract schreiben sie:

“We argue that large language models (LLMs) are not neutral tools, but meaning-mediating infrastructures that influence how learners interpret effort, struggle, and success – raising urgent questions about agency, design, and participation in AI-mediated education.”

Ebenso wie diese Autoren sieht auch das päpstliche Rundschreiben eine besondere Gefahr, denn möglicherweise

“setzen diejenigen, die KI kontrollieren ihre eigene moralische Auffassung durch, und diese wird zur unsichtbaren Infrastruktur der Systeme.“ (107)

Die durch Künstliche Intelligenz angetriebenen Werkzeuge sind also keinesfalls so neutral wie sie von ihren Verkäufern oder Vertretern gern dargestellt werden. Von daher ist Wachsamkeit geboten und man muss fragen: Welches Menschenbild ist einer KI eingeschrieben?

„Wir können KI nicht als moralisch neutral betrachten… Aus diesem Grund darf sich ethische Urteilskraft nicht darauf beschränken, zu fragen, ob wir ein bestimmtes System für einen guten oder schlechten Zweck nutzen, sondern muss sich auch fragen, wie es konzipiert ist und welches Bild von Mensch und Gesellschaft in die Daten und Modelle eingeschrieben ist, die es leiten.“ (104)

Ein Bereich der subtilen Beeinflussung könnte schon allein die Bezeichnung als Künstliche „Intelligenz“ sein. Die Enzyklika sieht die Gefahr der einseitigen Betonung dieser menschlichen Fähigkeit:

„In Wirklichkeit ist es immer falsch, eine einzige Dimension des Menschen zu verabsolutieren… Wenn daher die Intelligenz verabsolutiert wird, geraten andere wesentliche Dimensionen des Lebens in den Hintergrund: die Gefühle, der Wille, die Hingabe und die Beziehung… Es geht gewiss nicht darum, sich der Intelligenz zu widersetzen, sondern daran zu erinnern, dass sie, wenn sie sich auf sich selbst zurückzieht, vergisst, dass sie dazu bestimmt ist, dem Leben und dem Menschen zu dienen.“ (113)

Letztlich führen die subliminalen Wirkmöglichkeiten der KI und der Algorithmen auch dazu, dass die Machtfrage gestellt werden muss. Das tut der Papst in aller Deutlichkeit und Ausführlichkeit.

7 Die Kultur der Macht

Dass Technologie wirtschaftliche, gesellschaftliche und politische Macht verleiht, ist in unserer Gegenwart deutlich sichtbar. So beschreibt Leo XIV, dass KI die Mächtigen mächtiger werden lässt (108), weil sie ihnen die Möglichkeit gibt zu beeinflussen, was Menschen als Wahrheit ansehen (133) oder sie so zu verwirren, dass sich eine Gleichgültigkeit im Hinblick auf Fakten oder fakes einstellt (134). Wenn digitale Macht sich in den Händen weniger Träger befindet (95), ist umso mehr eine moralische Prüfung gefordert (96). Pessimistisch wird hier Romano Guardini zitiert, der meinte, dass der Mensch nicht zum rechten Gebrauch der Macht erzogen sei (93).

Die „Kultur der Macht“ hat nach Ansicht des Papstes besonders zwei negative Auswüchse: neue Formen der Sklaverei und polarisierende Narrative, die Gesellschaften spalten.

7.1 Die neuen Formen der Sklaverei

Leo XIV wird hier durchaus konkret und formuliert mit sozialkritischer Schärfe:

Ein wesentlicher Teil der Funktionsweise der digitalen Wirtschaft beruht auf der stillen Arbeit von Millionen von Menschen, die in wenig sichtbaren, aber unverzichtbaren Tätigkeiten beschäftigt sind: Datenbeschriftung, Moderation von Inhalten – oftmals der schlimmsten Art – und Modelltraining. In vielen Fällen handelt es sich um junge Menschen, zumeist Frauen, die für einen Mindestlohn hart arbeiten. Zu dieser unsichtbaren Mühe kommt die noch brutalere Arbeit hinzu, die Ressourcen zu gewinnen, die für die Herstellung der Geräte und Mikroprozessoren benötigt werden, auf denen KI basiert. In einigen Regionen der Welt arbeiten Kinder und Jugendliche unter gefährlichen Bedingungen und zerkleinern Materialien, aus denen Seltenerdmetalle gewonnen werden. Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt. Darüber hinaus nutzen kriminelle Netzwerke Online-Plattformen, Messaging-Systeme, anonyme Zahlungsmethoden und Profiling-Techniken, um Opfer – häufig Minderjährige – für den Menschenhandel zu gewinnen, zu kontrollieren und zu transportieren, wobei Männer und Frauen innerhalb derselben digitalen Kreisläufe, die einen Großteil der Weltwirtschaft stützen, zu „Daten“ werden, die zu verfolgen, und zu „Paketen“ werden, die zu verschieben sind.“ (173) 

Da zeige der Kolonialismus ein neues Gesicht:

„In unseren Tagen zeigt der Kolonialismus ein neues Gesicht. Er beherrscht nicht mehr nur Körper, sondern eignet sich Daten an und verwandelt das persönliche Leben in verwertbare Informationen. Ganze Gebiete… werden derzeit von einer neuen Logik der Ausbeutung durchzogen: Gesundheitsdaten, epidemiologische Profile, genetische Karten und demografische Daten. Dies sind die neuen „Seltenen Erden“ der Macht: lebenswichtige Informationen, die, sobald sie miteinander verknüpft sind, dazu genutzt werden können, Vorhersagemodelle zu trainieren, Investitionsstrategien zu lenken, Krisen vorauszusehen und vor allem auszuwählen, wer und was zählt.“ (178) 

Erfreulich ist in diesem Zusammenhang, dass Papst Leo XIV selbstkritisch auf den geschichtlichen Anteil der katholischen Kirche an Sklaverei eingeht und dafür um Entschuldigung bittet:

„Dies ist eine Wunde im christlichen Gedächtnis, die wir als unsere ansehen müssen. Es ist unvermeidlich, tiefen Schmerz angesichts des enormen Leidens und der Demütigung zu empfinden, die die Sklaverei für so viele Menschen bedeutete und ein Gegensatz zu ihrer grenzenlosen und vom Herrn unendlich geliebten Würde war. Dafür bitte ich im Namen der Kirche aufrichtig um Vergebung.“ (176)

7.2 Polarisierende Narrative

Beim Lesen dieser Ausführungen muss ich unwillkürlich an aktuelle Vorgänge besonders in den USA denken, dem Heimatland des Papstes, dessen Entwicklung er ja auch verfolgt. Er sieht hier Künstliche Intelligenzen am unguten Wirken.

So beklagt er polarisierende Narrative in den Medien und dass der Krieg offensichtlich als legitimes politisches Instrument rehabilitiert wird (190). Für diese Einordnung hat er sich die Kritik des US-Vizepräsidenten zugezogen, der es besser zu wissen glaubt.

Leo XIV nimmt die durch KI beförderten Verstärkungen von Ressentiments auf Korn, die durch vereinfachende Narrative, Freund-Feind-Logik, Desinformation und Angstmache geschehen, und ebenso die politisch motivierte Theorie des „gerechten Krieges“, mit der das alles gerahmt wird und als Kriegsvorbereitung gesehen werden muss (192). Getroffene Hunde bellen.

Die Gefahr künstlicher Systeme in Krisenzeiten sieht der Papst darin, dass wichtige und irreversible Entscheidungen an sie deligiert werden, was ihnen eine scheinbare Objektivität und Notwendigkeit verleihe, Verantwortungsketten verschleiere und unter der Hand Opfer auf Zahlen und Daten reduziere (198).

8 Fazit

Noch nie hat mich ein päpstliches Rundschreiben so elektrisiert. Dieser Papst befindet sich auf Höhe der Zeit und hat mit der Künstlichen Intelligenz einen Bereich herausgegriffen, der tatsächlich unsere Umwelt bildet, unsere Informationensflüsse regelt, unsere Meinungen formt und unser Denken prägt. Leo XIV mahnt wort- und gedankenreich davor, sich dieser Dynamik einfach hinzugeben, sondern gemeinsame Regeln und felsenfeste Standpunkte zu finden, von denen aus sich die KI beurteilen und einhegen lässt. Mit diesen Forderungen wird Leo XIV dem Stuhl und Namen Petri gerecht:

„Du bist der Fels. Und auf diesen Felsen will ich meine Kirche bauen.“

Matthäus 16, 18