Verletzliche KI

Antonio Damasio macht in seinem Buch Natürliche Intelligenz und Bewusstsein in Zeiten von KI einen diskussionswerten Vorschlag, um „potenziell gefährliche Selbständigkeit von KI-Geräten“ zu verhindern, nämlich sie mit Verletzlichkeit auszustatten (S. 171).

Die Idee

Für echtes Leben im Gegensatz zum künstlichen Leben ist Verletzlichkeit ein entscheidendes Merkmal. Verletzungen gleich welcher Art lösen in der Regel schmerzhafte Empfindungen aus, die uns - ebenfalls in der Regel - zu Konsequenzen zwingen. Wenn ein KI-Gerät verletzlich wäre, könnte dies zu einer Quelle des Selbstinteresses werden und eine künstliche Vorsicht begünstigen, die riskante Verhaltensweisen auf ähnliche Weise verhindern könnte wie die natürliche Verletzlichkeit.

Damasio hatte die Idee schon 2029 gemeinsam mit einem seiner ehemaligen Studenten im Zusammenhang mit Robotern entwickelt. Bei KI-Robotern haben wir im Unterschied zu Chatbots, die rein kognitiv unterwegs sind, ein Enseble von einem materiellen Objekt und nichtmaterieller Software, ähnlich wie bei uns Menschen die Einheit von Körper und Geist. Wenn die neuen Geräte dann auch noch mit analog ablaufenden Prozessen ausgestattet sind, ähnelt das Szenario ein weiteres Stück unserem Nervensystem.

Erste Gehversuche

Ralf Otte, Professor für Industrieautomatisierung und Künstliche Intelligenz an der Technischen Hochschule Ulm, Autor des Buchs Maschinenbewusstsein (2021), befasste sich mit dem Problem, ob Maschinen zumindest ein rudimentäres Bewusstsein entwickeln könnte - ein Bewusstsein, das nicht viel mit dem zu tun haben muss, was wir uns unter Bewusstsein vorstellen. Wenn aus künstlichem Bewusstsein irgendwas werden soll, muss erst das Problem der autonomen Wahrnehmung gelöst werden. Dazu ist eine fortlaufende Interaktion des Systems mit seiner Umgebung nötig. Das lässt sich nicht allein mit Software bewerkstellen, es braucht ebenso eine komplexe Hardware. Otte denkt dabei an zukünftige neuromorphe Systeme oder Quantencomputer. Das System muss zudem selbstreferenzierend sein, in dem Sinne, die eigenen internen Zustände erfassen und seiner Umwelt anpassen zu können.

Für die Neuronalen Netze standen die kognitiven Prozesse und die Neuronen des Gehirns Pate, bei neuromorphen Systemen soll die Arbeitsweise biologischer Nervensysteme nachgebaut werden. Wir sind heute, 2026 noch ziemlich entfernt von Systemen, die zu selbstregulierender, eigenständiger Wechselwirkung mit ihrer Umwelt fähig sind.

Mut zur Utopie

Unterstellt wir sind ein paar Stufen weiter, verfügen über Gerätschaften, die ein bisschen autonom die Welt wahrnehmen und sich an ihre Umgebung aus eigenem Antrieb anpassen können. Nehmen wir auch an, dass sie gut erzogen sind und sich umsichtiger bewegen werden.

Verletzlichkeit löst ja nicht nur Vorsicht und Selbstschutz aus, schließich haben wir den Irrgarten der Gefühle betreten. Und es wird Antworten geben auf die Frage, was solche Geräte tun, wenn man ihnen Schaden zufügt, ihnen also weh tut.

Mal sehen, was wir da im Angebot haben. Die uns bekannten Basisgefühle sollten es schon sein: Freude, Trauer, Angst, Ärger, Ekel, Überraschung, vielleicht auch noch Verachtung, Eifersucht und Neid.

Was wird wohl geschehen, wenn eines der netten neuromorphen Geräte sich vernachlässigt oder gar misshandelt fühlt? Wird es mit einer Moralpredigt an die Adresse des Unheilstifters aufwarten oder den zivilisierten kognitionsgeleiteten Rahmen verlassen und von heftigen Gefühlen getrieben gar mit Rache oder zumindest Bestrafung reagieren. Nach Kräften wird es dabei natürlich von ein paar KI-Agenten unterstützt, die es mit direkten Aktionen beauftragen kann, z.B. den Strom abstellen oder eine Verleumdungskampagne starten? Es muss ja nicht gleich ein Mordauftrag sein, eine gut geplante Intriegenkampagne tut es ja vielleicht auch.

Wird es einen TÜV geben, der die moralische Integrität der Geräte regelmäßig überprüft, und wenn ja, nach welcher Moral? Wird man den Geräten eine eigene persönliche Identität zugestehen müssen, wie man es ja auch mit Katzen und Hunden macht? Können die Geräte zur Rechenschft gezogen werden? Eine ganz schöne Lawine, die Damasio mit seinem Verletzlichkeits-Vorschlag da ins Rollen bringen würde ...

Das Szenarion ist aber nicht so weit weg von der Realität, heute 2026. Die Protagonisten der KI-Agenten, z.B. SAP mit seinem Autonomous-Enterprise-Konzept, sind gerade dabei ihr Konzept durchzudrücken, demzufolge es gleichwertige Partner von arbeitenden Menschen und - so die Werbung - immer autonomer handelnden KI-Agenten geben soll. Beide erhalten vom Berechtigungssystem der Software Rollen zugewiesen, die definieren, was sie dürfen. Und den Menschen in diesem Rollenspiel dürfte klar werden, wer am längeren Hebel sitzt. Schöne neue Welt.