Antonio Damasio

Der Widerspenstigen Zähmung?

Antonio Damasio macht in seinem Buch Natürliche Intelligenz und Bewusstsein in Zeiten von KI einen diskussionswerten Vorschlag, um „potenziell gefährliche Selbständigkeit von KI-Geräten“ zu verhindern, nämlich sie mit Verletzlichkeit auszustatten (S. 171).

Die Idee

Für echtes Leben im Gegensatz zum künstlichen Leben ist Verletzlichkeit ein entscheidendes Merkmal. Verletzungen gleich welcher Art lösen in der Regel schmerzhafte Empfindungen aus, die uns - ebenfalls in der Regel - zu Konsequenzen zwingen. Wenn ein KI-Gerät verletzlich wäre, könnte dies zu einer Quelle des Selbstinteresses werden und eine künstliche Vorsicht begünstigen, die riskante Verhaltensweisen auf ähnliche Weise verhindern könnte wie die natürliche Verletzlichkeit.

Damasio hatte die Idee schon 2019 gemeinsam mit einem seiner ehemaligen Studenten im Zusammenhang mit Robotern entwickelt. Bei KI-Robotern haben wir im Unterschied zu Chatbots, die rein kognitiv unterwegs sind, ein Enseble von einem materiellen Objekt und eng damit verbunden nichtmaterielle Software, ähnlich wie bei uns Menschen die Einheit von Körper und Geist. Wenn die neuen Geräte dann auch noch mit analog ablaufenden Prozessen ausgestattet wären, würde das Szenario unserem Nervensystem einen weiteren Schritt ähnlicher werden.


Erste Gehversuche


Ralf Otte

Ralf Otte, Professor für Industrieautomatisierung und Künstliche Intelligenz an der Technischen Hochschule Ulm, Autor des Buchs Maschinenbewusstsein (2021), befasste sich mit dem Problem, ob Maschinen zumindest ein rudimentäres Bewusstsein entwickeln könnten - ein Bewusstsein, das allerdings nicht viel mit dem zu tun haben muss, was wir uns unter Bewusstsein vorstellen. Wenn aus künstlichem Bewusstsein irgendwas werden soll, muss das Problem der autonomen Wahrnehmung gelöst werden. Dazu ist eine fortlaufende Interaktion des Systems mit seiner Umgebung nötig. Das lässt sich nicht allein mit Software bewerkstellen, es braucht ebenso eine komplexe Hardware. Otte denkt dabei an zukünftige neuromorphe Systeme. Das System muss zudem selbstreferenzierend sein, in dem Sinne, die eigenen internen Zustände erfassen und seiner Umwelt anpassen zu können.

Neuromorphe Systeme (Erklärung zeigen) sind dem menschlichen Nervensystem nachgebaut und trennen nicht Rechenwerk und Speicher (sog. In-Memory-Verarbeitung). Sie können auch wie biologische Neuronen Signale analog verarbeiten und verbrauchen sehr wenig Energie. Sie sind besonders für Echtzeitverarbeitung (wichtig für Roboter) und Mustererkennung geeignet. Für die Neuronalen Netze standen die kognitiven Prozesse und die Neuronen des Gehirns mit ihren synaptischen Verbindungen Pate, bei neuromorphen Systemen soll die auch dezentrale Arbeitsweise biologischer Nervensysteme nachgebaut werden.

Wir sind heute, 2026 noch ziemlich entfernt von Systemen, die zu selbstregulierender, eigenständiger Wechselwirkung mit ihrer Umwelt fähig sind. Verletzlichkeit setzt aber genau diese Fähigkeit voraus.

Mut zur Utopie

Unterstellen wir einmal, dass wir ein paar Stufen weiter sind, über Gerätschaften verfügen, die ein bisschen autonom die Welt wahrnehmen und sich an ihre Umgebung aus eigenem Antrieb anpassen können. Nehmen wir auch an, dass diese Geräte „gut erzogen“ sind und sich umsichtiger bewegen. Was haben wir dann zu erwarten?

Verletzlichkeit löst ja nicht nur Vorsicht und Selbstschutz aus, schließich haben wir damit den Irrgarten der Gefühle betreten. Und es wird Antworten geben auf die Frage, was solche Geräte tun, wenn man ihnen Schaden zufügt, ihnen also weh tut.

Mal sehen, was wir da im Angebot haben. Die uns bekannten Basisgefühle sollten es schon sein: Freude, Trauer, Angst, Ärger, Ekel, Überraschung, vielleicht auch noch Verachtung, Eifersucht und Neid.

Was wird wohl geschehen, wenn eines der netten neuromorphen Geräte sich vernachlässigt oder gar misshandelt fühlt? Wird es mit einer Moralpredigt an die Adresse des Unheilstifters aufwarten oder den zivilisierten kognitionsgeleiteten Rahmen verlassen und von heftigen Gefühlen getrieben gar mit Rache oder zumindest Bestrafung reagieren? Es wird dabei natürlich von ein paar KI-Agenten unterstützt, die es mit direkten Aktionen beauftragen kann, z.B. den Strom abstellen oder eine Verleumdungskampagne starten... Es muss ja nicht gleich ein Mordauftrag sein, eine gut geplante Intriegenkampagne tut es ja vielleicht auch.

Wird es einen TÜV geben, der die moralische Integrität der Geräte regelmäßig überprüft, und wenn ja, nach welcher Moral? Wird man den Geräten eine eigene persönliche Identität zugestehen müssen, wie viele Menschen es ja auch mit Katzen und Hunden machen? Können die Geräte zur Rechenschaft gezogen werden, wenn sie Mist bauen?

Das Szenarium ist nicht so weit weg von der Realität, heute 2026. Die Protagonisten der KI-Agenten, so auch SAP mit seinem Update Autonomous-Enterprise, sind gerade dabei, ihr Konzept durchzudrücken, arbeitende Menschen den KI-Agenten gleichwertig nebeneinander zu stellen. Beide, Menschen und künstliche Agenten, erhalten vom Berechtigungssystem der Software Rollen zugewiesen, die definieren, was sie tun dürfen. Und den Menschen dürfte klar werden, wer in diesem Rollenspiel am längeren Hebel sitzt. Schöne neue Welt.

 

Karl Schmitz • November 2026