Magnifica Humanitas

ist der Titel der Enzyklika von Papst Leo XIV, seiner ersten höchstamtlichen Botschaft. Sie beschäftigt sich in bewundernswerter Klarheit mit dem Thema Künstliche Intelligenz.

Analyse

Ich habe das Dokument gelesen, ohne große Erwartungen, war dann tief beeindruckt von der fundierten Darstellung, in der eine kirchliche Autorität auf den Punkt gebracht hat, was Künstliche Intelligenz ist. Dazu am besten Leo persönlich:

„Systeme [der Künstlichen Intelligenz] ahmen bestimmte Funktionen der menschlichen Intelligenz nach. Dabei übertreffen sie sie oft an Geschwindigkeit und Rechenleistung und bieten somit in zahlreichen Bereichen konkrete Vorteile.

Diese Leistungsfähigkeit hat jedoch ausschließlich mit der Datenverarbeitung zu tun: Sogenannte Künstliche Intelligenzen machen keine Erfahrungen, besitzen keinen Leib, empfinden weder Freude noch Schmerz, reifen nicht in Beziehungen, wissen nicht von ihrem Inneren her, was Liebe, Arbeit, Freundschaft und Verantwortung bedeutet.

Sie haben auch kein moralisches Gewissen: Sie unterscheiden nicht zwischen Gut und Böse, sie erkennen nicht den eigentlichen Sinn von Situationen und sie nehmen die Last der Konsequenzen nicht auf sich. Sie können Sprache, Verhalten und Beurteilungen imitieren, sie können Empathie oder Verständnis simulieren, aber sie verstehen nicht, was sie damit bewirken, denn sie bewegen sich nicht in jenem affektiven, relationalen und geistigen Horizont, in dem der Mensch zur Weisheit gelangt.

Auch wenn diese Werkzeuge als „lernfähig“ dargestellt werden, unterscheidet sich ihre Art des Lernens von der einer menschlichen Person. Es handelt sich nicht um die Erfahrung eines Menschen, der sich vom Leben formen lässt und im Laufe der Zeit durch Entscheidungen, Fehler, Vergebung und Treue wächst; vielmehr ist es eine statistische Anpassung auf der Grundlage von Daten und Rückmeldungen, die zwar sehr effektiv sein kann, aber kein inneres Wachstum impliziert.

Leo XIV, Enzyklika Magnifica Humanitas, Ziffer 99

Technisch betrachet bedeuten Leos Worte:

Leos Enzyklika ist keine Erklärung der Technik, sondern beschäftigt sich mit ihrer Bedeutung für die Menschheit, mit den Machtstrukturen hinter der Technik, den Absichten der Entwickler und Besitzer, den Folgen für die Gesellschaft und für die Menschen.

Mentale Folgen

Anbetracht der schnellen Verbreitung privater KI-Nutzung sieht Leo vor allem drei Aspekte, die Leichtigkeit, mit der Ergebnisse erzielt werden, der Eindruck von Objektivität und die Simulation menschlicher Kommunikation:

„Die Schnelligkeit und Einfachheit, mit der es möglich ist, Informationen, komplexe Analysen, Medieninhalte und konkrete Hilfestellungen zu erhalten, vereinfachen unser Leben. Sie können uns aber auch daran gewöhnen, zu viel zu delegieren und nach vorgefertigten Antworten zu suchen. Damit schwächen sie das persönliche Urteilsvermögen und die Kreativität.

Der Eindruck von Objektivität, den die Antworten und Vorschläge dieser Systeme vermitteln, kann uns vergessen lassen, dass sie das kulturelle Wertesystem derjenigen widerspiegeln, die sie entworfen und trainiert haben, mit all ihren Stärken und Schwächen.

Die künstliche Nachahmung positiver menschlicher Kommunikation – Worte des Rates, des Mitgefühls, der Freundschaft und der Liebe – kann befriedigend und sogar hilfreich sein, doch bei weniger reflektierten Nutzern kann sie irreführend wirken und die Illusion wecken, in einer Beziehung mit einem echten persönlichen Subjekt zu stehen. Wenn Worte simuliert werden, entsteht keine Beziehung, sondern nur der Anschein einer solchen. Die künstliche Nachahmung einer betreuerischen oder begleitenden Beziehung kann gefährlich werden, wenn sie sich in einen Kontext einschleicht, in dem es an echter Beziehung und Zuneigung mangelt: Dann besteht nicht so sehr die Gefahr, dass eine Person glaubt, mit einer anderen Person zu sprechen, sondern dass sie den Wunsch verliert, anderen Personen wirklich zu begegnen (Leo a.a.O, Ziffer 100).

Klar ist, dass alles davon abhängt, wie die Technik eingesetzt wird. Damit wären wir bei der Frage, wer die Verfügungsgewalt über die Technik hat.

Verantwortung

Leo führt aus, dass im digitalen Bereich die Kontrolle über Plattformen, Infrastrukturen, Daten und Rechenleistung in vielen Fällen nicht in der Hand der Staaten, sondern von großen wirtschaftlichen und technologischen Akteuren liegt, die de facto die Zugangsbedingungen, die Regeln der Sichtbarkeit und die Möglichkeiten der Teilhabe selbst festlegen.

„Wenn sich solche Macht in wenigen Händen konzentriert, besteht die Gefahr, dass sie undurchsichtig wird und sich der öffentlichen Kontrolle entzieht. Das erhöht das Risiko einer schiefen Entwicklung, die neue Abhängigkeiten, Ausgrenzungen, Manipulationen und Ungerechtigkeit erzeugt (Leo a.a.O., Ziffer 95).

Leo schreibt den bedenkenswerten Satz „Moderne Künstliche Intelligenzen werden nämlich eher „gezüchtet“ als „gebaut“ (ebenda Ziffer 98) und spricht dabei technisch das Trainingsverfahren der großen Sprachmodelle an, in dem in trilliardenfachen trial-and-error-Schritten in den für die Systeme ausgewählten Daten die als „richtig“ akzeptierten Resultate ermittelt werden, mit vielen für die Benutzer nicht sichtbaren Manipulationsmöglichkeiten. Dazu Leo wörtlich:

„Die Entwickler entwerfen nicht jedes Detail direkt, sondern schaffen eine Architektur, auf der KI „wächst“. Infolgedessen bleiben grundlegende wissenschaftliche Aspekte – wie die inneren Repräsentationen und die Rechenprozesse dieser Systeme – derzeit unbekannt. Daher ergibt sich die dringende Notwendigkeit eines doppelten Vorgehens: einerseits eine Vertiefung der wissenschaftlichen Forschung, andererseits eine Übung in moralischer und geistlicher Unterscheidung (ebenda Zf.98).

Dieser Kritik ist nichts hizuzufügen. Die KI, das unbekannte Wesen, mit im Trainingsverfahren eingeschleppter Moral der Hersteller, die so tun, als ob sie das nicht wüssten und von Objektivität und Neutralität reden (mehr dazu hier unter Manipulationspotenzial).

Doch KI kann nicht als moralisch neutral betrachtet werden. Leo betont, dass ethische Urteilskraft sich nicht darauf beschränken darf, zu fragen, ob ein bestimmtes System für einen guten oder schlechten Zweck genutzt wird, sondern muss sich auch fragen, wie es konzipiert ist und welches Bild von Menschen und Gesellschaft in seine Daten und Modelle eingeschrieben ist (Zf.126).

Die gesellschaftliche Dimension der Verantwortung

Die Verantwortlichkeiten müssen jederzeit klar sein, angefangen bei jenen, die die Systeme entwerfen und trainieren, bis hin zu jenen, die sie nutzen und sie für konkrete Entscheidungen verwenden. Es dürfen nicht Regeln durchgesetzt werden, so der Papst, die von denjenigen diktiert werden, die über Daten, Infrastruktur und Rechenkapazitäten verfügen. Dazu Leo:

• Wir dürfen nicht bei der Forderung stehen bleiben, dass die KI auf sogenannte menschliche Werte ausgerichtet ist, sondern einen Schritt weiter gehen und es zur Bedingung machen, den anzuwendenden Ethikkodex der Systeme öffentlich zu diskutieren und ihn mit von uns geteilten Kriterien sozialer Gerechtigkeit abzugleichen. Andernfalls setzen diejenigen, die KI kontrollieren, ihre eigene moralische Auffassung durch, und diese wird zur unsichtbaren Infrastruktur der Systeme.
• Eine moralischere KI nützt nichts, wenn diese Moral von wenigen bestimmt wird. Was wir brauchen, ist eine Politik, die präsenter ist, die in der Lage ist, dort zu bremsen, wo alles immer schneller wird, und die Räume zu schützen, in denen Gemeinschaften noch mitwirken und Fragen stellen können.
• Die KI neigt dazu, vor allem die Macht derjenigen zu stärken, die bereits über wirtschaftliche Ressourcen, Kompetenzen und Zugang zu Daten verfügen. Desshalb darf das Eigentum von Daten nicht ausschließlich privaten Einrichtungen anvertraut werden.

Zusammenfassung von Leos Äußerungen aus Zf. 107

Es braucht sicher nicht den“heiliegen Paul VI“ oder den „heiligen Johannes Paul II" (Zf. 151), um daran zu erinnern, dass Arbeitslosigkeit ein schwerwiegendes Übel ist und die staatliche Verantwortung in besonderer Weise herausfordert. Da ist Leo XIV deutlich konkreter:

„Es bedarf anpassungsfähiger Instrumente: vielschichtiger Modelle, lokaler Experimente, weitergehender Umverteilung und neuer Zugangsrechte zu lebensnotwendigen Gütern.

Eine Gesellschaft, die nur einem kleinen Teil der Bevölkerung Arbeit garantieren würde, würde viele Menschen dazu zwingen, untätig zu bleiben, ohne Verantwortung, ohne Aufgaben und ohne tägliche Herausforderungen, was zu einer menschlichen und kulturellen Verarmung führen würde, die im Kontrast zum hohen technischen Entwicklungsstand stünde (Zf.154).

Leo spricht sich dafür aus, dass es nicht damit getan ist, im Nachhinein die Machtverhältnisse zu hinterfragen, die zu kritischen Entwicklungen geführt haben, sondern sich vorher damit auseinanderzusetzen, wohin die Entwicklung gehen soll bzw. darf:

„Es ist notwendig, den Wandel im Voraus zu gestalten. Ein gangbarer Weg besteht zunächst darin, soziale Kriterien für Innovationen festzulegen: Jede Einführung von Automatisierung und KI sollte mit überprüfbaren Maßnahmen zum Schutz der Beschäftigung, zur Umschulung der Arbeitnehmer und zur Gewährleistung ihrer Mitbestimmung einhergehen, damit die Technologie darauf ausgerichtet ist, den Menschen Zeit und Fähigkeiten freizusetzen, statt Ausgrenzung zu erzeugen. (Zf.153).

Also nicht das bedingungslose Grundeinkommen, die billige Tour eines Elon Musk und vieler anderer Akteure, sondern die Forderung politischer Maßnahmen, die allen Menschen Teilhabe an einem kulturellen Leben gewährt, kontinuierliche Weiterbildung und berufliche Wechsel ermöglicht, ohne die gesamten Kosten der Anpassung an den Wandel auf den Einzelnen abzuwälzen. Es besteht die Gefahr, dass die derzeitigen technologischen Konzepte zu Dequalifizierung und einer hochgradig automatisierten Überwachung der Arbeitnehmer führen.

Ebenso bedarf es nach Leo unternehmerischer Verantwortung, die die Qualität und Würde der Arbeit zu Erfolgsindikatoren zählt. Unter diesen Voraussetzungen kann Innovation als Verbündete für sicherere, kreativere und menschlichere Arbeit dienen; fehlen sie, wird sie zu einem Beschleuniger der Ungerechtigkeit.

Entwaffnung

Besonders liegt Leo am Herzen, die KI zu „entwaffnen“. Er meint damit, der KI die Logik des bewaffneten Wettbewerbs zu entziehen, und zwar nicht nur auf militärischer,
sondern auch auf wirtschaftlicher und kognitiver Ebene. Es geht darum, das Wettrennen um den leistungsfähigsten Algorithmus und die größte Datensammlung, den geopolitischen oder kommerziellen Vorsprung gegenüber allen anderen zu beenden. Entwaffnen bedeutet, zu verhindern, dass die Technik die Menschen beherrscht. Es bedeutet,

[die Technik] „den Monopolen zu entziehen, sie hinterfragbar und anfechtbar und damit lebensfreundlich zu machen, sie der Vielfalt menschlicher Kulturen und Lebensweisen zurückzugeben (ebd. Zf. 110).

Die Aufgabe ist heute nicht nur ethischer oder technischer Natur sondern auch ökologisch im radikalsten Sinne,

„denn sie betrifft eine neue Dimension unseres gemeinsamen Zuhauses. KI ist bereits eine Umwelt, die uns umgibt, und eine Macht, mit der wir uns auseinandersetzen müssen. Daher reicht es nicht aus, sie zu regulieren: Sie muss entwaffnet und lebensfreundlich gemacht werden (ebenda).

Freiheit

Leo sieht die Notwendigkeit, die Auswirkungen der KI auf die menschliche Freiheit zu erörtern und dabei zu prüfen, wie sowohl den Risiken für die Individuen als auch für die Gesellschaft begegnet werden kann:

„Die subtileren Formen der Abhängigkeit, die mit der digitalen Aufmerksamkeitsökonomie verbunden sind, dürfen dort nicht unterschätzt werden, wo Plattformen und Dienste darauf ausgelegt sind, die Zeit und Aufmerksamkeit der Nutzer zu binden, indem ihre Schwachstellen ausgenutzt und ihre innere Freiheit geschwächt werden.

Wenn Geschäftsmodelle von menschlichen Schwächen profitieren, dann wird der Mensch als Mittel und nicht als Zweck behandelt, und diejenigen, die diese Systeme entwerfen oder finanzieren, tragen eine moralische Verantwortung, der sie sich nicht entziehen können (Zf. 170).

Weitere Gefährdungen der Freitheit liegen in der sozialen Kontrolle, die durch die massive Datenerhebung und den Einsatz algorithmischer Systeme zur Überwachung ermöglicht wird. Dazu Leo:

„Wenn jede Handlung – Bewegungen, Käufe, Beziehungen, Vorlieben – Spuren hinterlässt, dann entsteht eine neue Macht: jene, Profile zu erstellen, Vorhersagen zu treffen und Verhalten zu beeinflussen, oft ohne dass sich die Menschen dessen voll bewusst sind.

Werden diese Daten genutzt, um Entscheidungen zu treffen, die konkrete Möglichkeiten beeinflussen (Zugang zu Krediten, Personalauswahl, Dienstleistungen), besteht die Gefahr, dass die Freiheit beeinträchtigt und die Schwächsten diskriminiert werden.

Darüber hinaus erfolgt Kontrolle nicht bloß durch ausdrückliche Verbote, sondern durch eine Architektur des Sichtbaren: Was verstärkt oder unsichtbar gemacht wird, was belohnt oder bestraft wird, prägt letztlich Meinungen und Entscheidungen und führt zu Konformität und Selbstzensur. (Zf. 171).

Die Worte des Papstes sind ein Appell, bei allen bewundernswerten möglichen Leistungen der KI-Technik auch die Rückseite dieser Medaille zu betrachten.

Bildung

Aus diesen Einschätzungen ergeben sich Konsequenzen für Bildung und Erziehung:

„Es ist dringend erforderlich, einen Umgang mit Technologien zu fördern, der die innere Freiheit stärkt: Erziehung zu digitaler Zurückhaltung, Schutz von Minderjährigen und Bekämpfung von Modellen, die aus der Verletzlichkeit anderer Nutzen ziehen (Zf. 170).

Dieses Plädoyer für einen besonderen Schutz junger Menschen ist von der Presse im Zusammenhang gesetzgeberischer Initiativen zum Handyverbot in Schulen sofort begierig aufgegriffen worden. Leo sieht das etwas tiefer gehend und differenzierter:

Die KI einer Kontrolle zu unterwerfen, ist keine Angelegenheit, die durch bloße Verbote realisiert werden kann, sondern die Architektur des Sichtbaren betrifft:

„Was verstärkt oder unsichtbar gemacht wird, was belohnt oder bestraft wird, prägt letztlich Meinungen und Entscheidungen und führt zu Konformität und Selbstzensur. Aus diesem Grund ist Freiheit im digitalen Zeitalter nicht nur eine interne Angelegenheit: Sie ist auch eine öffentliche Angelegenheit, die klare Regeln, Transparenz, Rechtsbehelfsmöglichkeiten und angemessene Grenzen für den Einsatz invasiver Technologien erfordert, damit die Technik im Dienste des Menschen bleibt und nicht zu einer Form der Herrschaft über das Bewusstsein wird (Zf.171).

Leo warnt davor, die im Internet entstehende Kultur zu einem Mittel übermäßiger Ablenkung, Vereinheitlichung und Herrschaft werden zu lassen. Sie soll vielmehr zu einem Raum werden, in dem innere Freiheit und kritisches Denken gedeihen können:

„Die Erziehung zum Umgang mit KI bedeutet daher auch, zu lernen, wann und wofür man sie nicht einsetzen sollte. Es gilt, junge Menschen so zu schulen, dass sie lernen, Manipulationen zu erkennen und auch in digitalen Umgebungen ihre eigene Würde zu verteidigen und die Würde anderer zu achten (Zf. 140).

Die Machtfrage

Leo kritisiert die „technokratische und posthumane Mentalität“ (Zf.172), die Menschen als manipulierbare Objekte oder als zu optimierende Ressourcen behandelt. Solche verzerrten Sichten führen dann schnell zu verschiedenen Formen eines digitalen Kolonialismus: ausbedeuterische, inhumane und schlechtbezahlte Arbeit, von der Rohstoffgewinnung, dem Bau der Geräte, der Datenbeschriftung und Aussortierung brutaler menschenverachtender Inhalte bis zum Training der Modelle, von Leo als neue Formen der Sklaverei bezeichnet.

Dieser Kolonialismus zeigt ein neuen Gesicht. Er verwandelt das persönliche Leben in verwertbare Informationen. Ganze Gebiete, insbesondere jene mit geringerer geopolitischer Bedeutung, werden von einer neuen Logik der Ausbeutung durchzogen:

„Gesundheitsdaten, epidemiologische Profile, genetische Karten und demografische Daten .... sind die neuen „Seltenen Erden“ der Macht: lebenswichtige Informationen, die, sobald sie miteinander verknüpft sind, dazu genutzt werden können, Vorhersagemodelle zu trainieren, Investitionsstrategien zu lenken, Krisen vorauszusehen und vor allem auszuwählen, wer und was zählt.

Wer über die Gesundheitsdaten ganzer Bevölkerungen verfügt ..., besitzt in Wirklichkeit einen strukturellen Hebel für die Zukunft: Er kann die Bedürfnisse und die Märkte gestalten. Und er kann vor anderen entscheiden, wem Medikamente, Investitionen und Schutzmaßnahmen zugeteilt werden. Hierin liegt eine der dringlichsten moralischen Herausforderungen unserer Zeit: gemeinsames Wissen in ein Gemeingut zu verwandeln, statt es als Beherrschungsinstrument zu nutzen (Zf. 178).

Leo fordert, den Menschen nicht nur ihre Daten zurückzugeben, sondern auch die Möglichkeit, zu entscheiden, wie diese genutzt werden, von wem und für wen. Andernfalls werde das digitale Zeitalter nicht postkolonial sein, sondern in einer anderen Form kolonial.

Leo stellt eine Reihe konkreter Forderungen auf:

• Lieferketten, die die Technologiebranche und die digitale Wirtschaft stützen, müssen transparenter werden, damit kein Wettbewerbsvorteil auf unsichtbarer Ausbeutung aufbaut.
• Unternehmen und Investoren müssen klare Kriterien für eine präventive ethische Überprüfung (im Sinne einer due diligence) festlegen und dabei den Schutz der Arbeitnehmer, die Bekämpfung von Zwangsarbeit sowie die sozialen Auswirkungen datengesteuerter Geschäftsmodelle zu ihren Prioritäten zählen.
• Digitale Plattformen müssen verantwortungsbewusst mit Behörden und der Zivilgesellschaft zusammenarbeiten, um zu verhindern, dass Programme für Kommunikation, Zahlung und Profiling zu Kanälen für die Anwerbung und Kontrolle von Opfern werden.

Ein ganz besonders Problem liegt darin, dass die Technik, losgelöst von Ethik und Verantwortung, Entscheidungen über Leben und Tod schneller und unpersönlicher werden lässt und den Einsatz von Gewalt zu einer unmittelbaren und gangbaren Option macht.

Die digitale Revolution verändere die Grammatik von Konflikten: die Schwelle für den Einsatz von Gewalt sinkt, Verantwortlichkeiten werden verschleiert, und eine Kultur wird bestärkt, in der der Feind auf Daten und die Opfer auf „Kollateralschäden“ reduziert werden (vgl. Zf. 183).

Krieg und Frieden

Leo hat viel Beifall für die gesellschaftskritische Betrachtung des KI-Einsatzes erhalten. Interssant ist aber, welche Passagen bei diesen Lobeshymnen eher unerwähnt bleiben. Leo schreibt:

„In der Zeit, in der wir leben, festigt sich zunehmend eine Kultur der Macht, in der die Verfügbarkeit von Mitteln und die Fähigkeit Herrschaft auszuüben zunehmend die Agenda und die Entscheidungskriterien bestimmen, wobei das Gemeinwohl der Menschheit in den Hintergrund gedrängt und das konkrete Drama der Völker im Krieg gegenüber strategischen Interessen zu einer zweitrangigen Variable reduziert wird. Diese Kultur der Macht durchdringt die Gesellschaft, verändert Beziehungen und Verhaltensweisen und breitet sich aus, indem sie den Krieg normalisiert, nach immer größerer militärischer Macht strebt, die Krise des Multilateralismus ausnutzt und einen falschen Realismus schürt, der beständig wiederholt, dass es keine Alternativen gibt.

Leo XIV, a.a.O. Zf. 188

Leo kritisiert, dass wir eine besorgniserregenden Rehabilitierung des Krieges als Instrument der internationalen Politik erleben, während gerade jene ethischen Kriterien, die seinen Einsatz begrenzen, ausgehöhlt werden (Zf. 190).

Leo schildert die derzeitige geopolitische Lage mit analytischer Schärfe:

• Regionale Konflikte, eskalierende Spannungen und gegenseitige Drohungen werden immer mehr zur Normalität. Konfliktformen und territoriale Expansion, die man für überwunden hielt, sind erneut aufgetaucht (Zf 190).
• Die verschärften Konflikte führen zu nicht nur auf militärischer, sondern auch auf wirtschaftlicher, finanzieller und digitaler Ebene ausgetragen "hybriden" Kriegen, wobei Desinformation und Kampagnen, die Ängste schüren, eingesetzt werden, um die öffentliche Meinung zu beeinflussen (Zf. 204).
• Kriege werden durch Ressentiments, Propaganda, Desinformation und geschürte Angst kulturell vorbereitet und als normal dargestellt. In diesem Klima gleitet die Menschheit in eine gewalttätige Machtkultur ab, in der Friede nicht mehr als eine Aufgabe erscheint, der man sich stellen muss, sondern als eine prekäre Unterbrechung zwischen Konflikten. (Zf. 192).
• Die wachsende Rüstungsindustrie ist in einigen Ländern zu einem wirtschaftlichen Schlüsselsektor geworden. Kriege erscheinen immer mehr als eine natürliche Fortsetzung der Politik. Der Rüstungsmarkt wird zu einer eigenständigen Triebkraft für kriegerische Entscheidungen. „Wir dürfen die enormen wirtschaftlichen Interessen hinter dem Krieg nicht ignorieren. Die Rüstungsindustrie und die Länder, die Waffen liefern, profitieren von einem Markt, der gerade dank der Konflikte gedeiht"(Zf. 193).

Ganz kritisch sieht Leo die durch KI vorangetriebene Automatisierung strategischer Entscheidungen und fordert deren Verbot:

„Es ist nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen. Es existiert kein Algorithmus, der Krieg moralisch vertretbar machen könnte. Wenn die Entscheidung zum Angriff automatisiert oder undurchsichtig wird, steigt das Risiko des Verlusts von Verantwortlichkeit (Zf. 199).

Und ganz deutlich im Ziffer 200, wenn es um den Tod von Menschen gilt:

„Tödliche Gewalt darf nicht an automatisierte Prozesse delegiert werden, sondern muss stets unter der selbstbewussten, verantwortungsvollen menschlichen Kontrolle verbleiben.

In der Auseinandersetzung um die Grenzen des KI-Einsatzes reicht es nach Auffassung des Papstes auf keinen Fall aus, sich allgemein auf Ethik zu berufen. Diejenigen, die entwickeln, ausbilden, genehmigen und einsetzen, müssen für ihre Entscheidungen Rechenschaft ablegen. Jede Technologie, die es einfacher macht, anzugreifen, ohne das Gesicht des anderen zu sehen, senkt die moralische Schwelle des Konflikts, betont der Papst. Auf keinen Fall dürfen die Auswirkungen auf wehrlose Bevölkerungsgruppen ignoriert werden.

Aus diesen Darlegungen leiten sich einige unverzichtbare Anforderungen ab, die anbetracht der grundsätzlichen Statements des Papstes eher nach Schadensbegrenzung aussehen:

• Zuallererst muss bei jedem System, das zu Kriegszwecken eingesetzt wird, die Rückverfolgbarkeit und die Möglichkeit gewährleistet sein, Entscheidungsprozesse nachzuvollziehen, damit sich Verantwortlichkeiten und eventuelle Schuld nicht „in der Maschine“ verlieren.
• Zweitens darf die Entscheidung über den Einsatz tödlicher Gewalt nicht an undurchsichtige oder automatisierte Prozesse delegiert werden, sondern muss unter effektiver, bewusster und verantwortlicher menschlicher Kontrolle bleiben.
• Schließlich müssen gemeinsame Regeln festgelegt werden, auch auf internationaler Ebene, die den Wettlauf um hochtechnisierte Waffensysteme bremsen und einen besonderen Schutz für Zivilisten und die für ihr Überleben wesentlichen Infrastrukturen gewährleisten.

Wir leben in einer Zeit bemerkenswerter geistiger und kultureller Blindheit, so die päpstliche Feststellung in Ziffer 204. In einem Klima der Resignation angesichts eines unvermeidlichen Krieges erscheinen Frieden und Dialog als utopische oder irrationale Positionen, die die bestehenden Risiken ignorieren. Der Papst hält dagegen, dass der Friede weder eine naive Hoffnung noch die bloße Abwesenheit von Krieg ist, sondern „das stets mögliche Ergebnis von Gerechtigkeit und Nächstenliebe“ (Zf. 205).

Wenn sich religiöser Extremismus und identitärer Fanatismus mit irrationalem Ökonomismus, verbünden, während die Politik mit Leichtigkeit zur Desinformation, zur Verhöhnung des Gegners und zum systematischen Schüren von Ängsten und Ressentiments greift, wird ein fruchtbarer Boden für neue Kriege bereitet, die gefährlicher werden können als jene der Vergangenheit, weil sie dazu neigen, alle ethischen Grenzen zu verlieren.

„Was heute undenkbar erscheint, kann morgen aufgrund von Nutzen- oder Sicherheitskalkülen akzeptabel werden. In Ländern, die von gravierenden sozialen Spannungen geprägt sind, können wir nicht ausschließen, dass bewaffnete Konflikte von manchen als wirksames Mittel betrachtet werden, um von internen Problemen abzulenken, und als zynisches Instrument zur Bewältigung von Schwierigkeiten.

Leo XIV a.a.O. Zf. 208

Die erste Botschaft des Papstes zu Beginn seines Pontifikats war ein eindringlicher Aufruf zum Frieden. Ein Jahr später wird er sehr deutlich: Eine Welt im permanenten Kriegszustand zu schaffen, ist ein Übel, und es ist bei seinem Namen zu nennen. Diese Art, die Wirklichkeit, in der wir leben, zu beschreiben, mag düster oder pessimistisch erscheinen, doch ich halte sie für eine notwendige Mahnung (Zf.210).

Reaktionen der Politik

Die internationale Politik ist tüberwiegend voll des Lobes, allerdings nur so lange, wie es um den moralischen Appell geht. Sie wird schnell kontrovers, sobald die Sprache auf die militärische Nutzung kommt.

• Deutschland: Parteiübergreifendes Lob für den ethischen Appell: Der Mensch im Mittelpunkt, klingt gut, die Macht der Tech-Monopole kontrollieren, hört man gern. Wasser auf die Mühlen aller, die eine Regulierung der KI fordern. Auch die Ausführungen zur Würde der Arbeit gefallen ausdrücklich. Wenn es allerdings um die radikale Forderung des Papstes geht, die Künstliche Intelligenz zu „entwaffnen“, scheiden sich die Geister. Bedenken ja, aber Abschreckung und Verteidigungsfähigkeit müsse erhalten bleiben, so die herrschende Meinung. Der mantraartig vorgetragenen Appell, dass wir kriegstüchtig werden müssen, passt nicht zu der päpstlichen Botschaft.
• Europa: Die Europäische Union (EU) sieht natürlich eine breite politische und moralische Bestätigung des eigenen Weges. Sie begrüßt insbesondere die Forderungen nach einer Regulierung der KI-Technik und sieht sich mit ihrem EU AI Act und seinen wohlklingenden Formulierungen sogar als Vorreiter. Man betont auch die Einigkeit im Kampf genen die KI-vermittelte Desinformation.
  Allerdings sobald es um die Friedenspolitik und die militärisch eingesetzte KI geht, beginnt das Dilemma. Die von Teilen des EU-Parlaments geforderte völkerrechtliche Ächtung autonomer Waffensysteme muss dann doch hinter dem main-stream-getriebenen Pragmatismus zum Erhalt der Verteidigungsfähigkeit zurücktreten. Kein Rückenwind für Initiativen zu diplomatischen Initiativen. Man steht lieber wie (noch) geduldete Zuschauer am Rand des politischen Tummelfeldes und genehmigt dreistellige Milliardensummen für Waffenkäufe in einem unsinnigen Krieg, jeder Euro ein Beitrag für die Fortsetzung des Sterbens, in einer auf Dauer gestellten Wiederholschleife brutaler Geschäftemacherei, genau so wie der Papst es in seinen mahnenden Worten beschrieben hat.
  Der Neustart zu einer gestaltbaren politischen und moralischen Aufgabe für Europa: Zerschellt an der Feigheit unserer Politik.
• USA (genauer die US-Regierung): Man versucht sich in diplomatischer Distanziertheit, ist auch gegen den Missbrauch der KI zur Desinformation, und es soll Menschen geben, die das auch noch glauben. Aber die wirtschaftliche Innovationskraft und technologische Führungsrolle im globalen Wettbewerb - insbesondere gegenüber China - hat unbedingte Priorität und darf auf keinen Fall durch Überregulierung gefährdet werden. Dass der Papst explizit forderte, die Verfügung der Technologie müsse Marktmonopolen entzogen werden, wurde als direkter Angriff auf das amerikanische Wirtschaftsmodell verstanden.
• China und Russland: Offizielle Statements muss man lange suchen, eher lautes Schweigen. Kein Wunder, denn die erklärte Politik beider Länder setzt die Künstliche Intelligenz massiv für die militärische Aufrüstung ein und im Falle Chinas darüber hinaus zu einer umfassenden Überwachung, in deutlichem Widerspruch zu den Vorstellungen im päpstlichen Text.

Reaktion der Tech-Monopole

Natürlich würdigt man den Fokus auf Menschenwürde, Machtkonzentration und soziale Folgen des KI-Einsatzes. Der Papst ist eine zu anerkannte moralische Authorität, um sich frontal mit ihr anzulegen. Die menschlichen Superhirne der Big-Tech-Firmen finden die päpstlichen Aussagen über Denken, Verstehen und mögliche Empfindungsfähigkeit als zu kategorisch, denn viele von ihnen glauben an die Möglichkeit, Systeme mit künstlichem Bewusstsein entwickeln zu können. Ihnen bleibt die päpstliche Schilderung der positiven KI-Möglickeiten zu blass; sie verkennen offensichtlich, dass eine Enzyklika kein Marketingpapier ist.

Ihre Hauptkritik richtet sich allerdings darauf, dass die Möglichkeiten einer künstlichen allgemeinen Intelligenz und sehr leistungsfähiger, sogenannter autonomer Systeme nicht ernst genug genommen würden. Begriffe wie AGI oder Superintelligenz kommen tatsächlich in der Enzyklika überhaupt nicht vor.

Damit unterschätzen sie gewaltig die natürliche Intelligenz des Papstes. Wenn man dargelegt hat, dass die KI-Technik grundsätzlich nicht zu autonomer Wahrnehmung, Empfindungen und Bewusstsein fähig ist und ähnliche Erscheinungen nur auf Modellen uns Simulation beruhen, dann muss man seine Zeit nicht mit Phantasien von trans- oder posthumaner Superintelligenz vergeuden. Wenn KI zum Unheil der Menschheit wird, dann ist es nicht eine autonom entscheidende Technik, die das tut, sondern der Umgang der Menschen mit eben dieser Technik, der zur Katastrophe führen kann. Der auf fundierter Sachkenntnis beruhenden klaren realistischen Sicht des Papstes ist es zu verdanken, dass er sich auf die derzeit größten Risiken fokussiert hat, den Einsatz der KI-Technik im Spannungsfeld zwischen Krieg und Frieden, insbesondere im militärischen Bereich. Davon wollen die meisten KI-Granden, zumindest diejenigen in den BigTech-Konzernzentralen, nichts hören.

Ein Hoffnung stiftendes Schlusswort

„Der Mensch ist dazu berufen, am Werk der Schöpfung mitzuwirken, statt resigniert den technologischen Entwicklungen zuzusehen, die unsere Freiheit und Verantwortung einschränken. ... Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt. Auch wenn die Maschinen in ihrer Effizienz überragend sind, bleibt das Zentrum der Geschichte ein menschliches Antlitz, das danach verlangt, angesehen zu werden.

Leo XIV, Magnifica Humanitas, Ziffer 233