Superintelligenz oder Superdummheit

Es drohe der Menschheit die Auslöschung, drunter geht es nicht, so die Verheißungen einer Superintelligenz, deren Ausbruch uns kurz bevorstehe. Es sind nicht nur die Marketing-Lautsprecher der großen KI-Konzerne, allen voran der um seine Dollarmilliarden bemühte Sam Altman oder der stets vollmundige Weltraumeroberer Elon Musk, sondern namhafte Wissenschaftler und Entwickler wie der ehemalige Oxforter Philosophieprofessor Nick Bostrom in seinem schon 2014 erschienenen Buch Superintelligence oder der „Godfather“ der Künstlichen Intelligenz Geoffrey Hinton und viele Zauberlehrlinge, die beteiligt waren am Herbeirufen der Geister, die sie nicht mehr loswerden: Ilya Sutskever, ein Mitgründer von Open AI, Demis Hassabis, Ex-Chef von Deep Mind, dessen Software die weltbesten Go-Spieler spektalulär geschlagen hat, der frühere Google- und OpenAI-Experte und jetztige Anthropic-Chef Dario Amodei - die Reihe ließe sich noch ein gutes Stück fortsetzen.

Alles nur großes Tam-Tam zur Rettung einer Technik (vgl. Die Mär von der Superintelligenz), die dabei ist, ihren Höhepunkt zu überschreiten oder ernsthafte Drohung? Schauen wir kurz in die Vergangenheit. Da gab es auch schon gewaltige intellektuelle Bastelarbeiten zur Rettung sinkender Schiffe.

Die Beharrungskraft dogmatischer Überzeugungen

Die Astronomie ist eine der ältesten Wissenschaften. Bis ins 16. Jahrhundert war die Erde der Mittelpunkt der Welt. Um sie herum kreisten die Sonne, der Mond, die Planeten in eigenen durchsichtigen und sich unterschiedlich schnell drehenden Sphären und ganz außen eine undurchsichtige Schale mit Löchern drin, durch die der himmliche Glanz Gottes mit seinen Engeln, Heiligen und Seeligen durchschimmerte: die Fixsterne. Die Planeten machten leider und machen immer noch sehr seltsame Bewegungen, die kompliziertere Theorien erforderten, um ihren Lauf zu erklären. Sie kreisten nicht einfach um die Erde, sondern bewegten sich auf kleinen Kreisen, deren Mittelpunkt aber auf großen Kreisen um die Erde rotierte, alles um das Dogma aufrecht zu erhalten, nach dem die Himmelskörper zu einer vollkommenen, unveränderlichen himmlischen Welt gehörten, deren natürliche Bewegungsform die gleichförmige Kreisbewegung war. Als die Beobachtungen genauer wurden, musste man die Theorie mit Epizykeln, exzentrischen Kreisen und Äquanten weiter verkomplizieren, damit alles wieder mit den Berechnungen übereinstimmte. Von der Gravitation hatte man noch keine Ahnung. Anderhalb Jahrtausende war dieses ptolemäische Weltbild die herrschende Meinung.

Aus heutiger Sicht war diese von religiösen Vorstellungen beeinflusste Weltsicht falsch und das lange Festhalten sicher eine große Dummheit. Aber dieser Dummheit muss man eine hohe Intelligenz zubilligen. Es bedurfte der klügsten mathematisch gebildeten Geister jener Zeit, um das hochkomplizierte System immer wieder zu ergänzen und aufrecht zu erhalten.

Aber Menschen verfügen über die phantastische Fähigkeit, Irrtümer zu erkennen und zu korrigieren. Allerdings hatten es Kopernikus, später Kepler und Galilei schwer, in einer rund hundert Jahre dauernden zähen und zuweilen auch schmerzhaften Auseinandersetzung mit diesen Vorstellungen aufzuräumen, bis die Sonne endlich im Mittelpunkt eines Planetensystems stehen durfte und die Gravitation als Naturkraft galt, die das ganze Schauspiel bewegte.

Die Superintelligenz

Die von den Matadoren der KI-Konzerne immer wieder in Aussicht gestellte Superintelligenz soll schon bald ein Niveau erreichen, das menschliche Fähigkeiten in allen intellektuellen Bereichen übersteigt, und sei es auch nur durch den Zugriff auf schier unendliche Mengen von Daten, in denen so viele Muster verborgen sind, dass die gebündelte Intelligenz unserer besten Wissenschaftler und Ingenieure nicht ausreicht, sie alle selber zu entdecken.

Die hochleistungsfähigste KI, die es zu solcher Superintelligenz braucht, ist keine auf einem Rechner eingesperrte Software, sondern macht sich auf verschiedenen Hardware-Einheiten breit, mit Anwendungen, die untereinander eng verbunden sind. Ihre Teile haben gelernt, sich zu schützen und sich zu kopieren. Aber was sie nicht haben ist ein synchron funktionierender Not-Aus-Button. Ihr Programm-Sammelsurium verfügt über Agentic KI, kann aus der Unmenge des Datenvorrats eigenständig Wege für Lösungen ihrer ihnen aufgetragenen Aufgaben suchen und auch ausführen. Man kann ihnen sehr abstrakt formulierte Aufträge erteilen, zum Beispiel nach bewährtem Narrativ Wege zur Vermeidung der drohenden Klimakatastrophe zu suchen und die gefundenen Lösungen - anders als die Politik - auch umzusetzen. Ihre weiterentwickelte Technik wird wie bisher nach den bewährten Konzepten der Wahrscheinlichkeitsrechnung und Statistik ihre Muster suchen und finden, nur nachvollziehen wird das keiner mehr können. Die Gefahr besteht nicht darin, dass diese Super-KI Fehler macht, sondern dass im Gegensatz zu uns Menschen sie nicht in der Lage ist, ihr Output als Fehler zu erkennen und zu korrigieren. Und einmal in Gang gesetzt, löschen lässt sie sich dann auch nicht mehr.

Denn diese Technik ist nicht wie die Zellen aller lebenden Wesen mit der Fähigkeit der sogenannten Apoptose ausgestattet, einer genetisch prorammierten Selbstzerstörung, wenn aufgrund äußerer oder innerer Signale erkannt wird, dass die Zelle beschädigt, gefährlich oder schicht überflüssig geworden ist.

Die Superdummheit

Dummheit wird oft als Gegenteil von Intelligenz begriffen. Aber es gibt eine hochelaborierte Form von Dummheit. Jemand, der die Antwort auf eine Frage nicht kennt, ist lediglich unwissend. Jemanden, der eine hundertseitige, ausgeklügelte Argumentation für eine falsche Antwort aufbaut, darf man mit Fug und Recht als dumm, stupide oder mit einem anderen Synonym bezeichnen, das die deutsche Sprache dafür bietet. Solche Art von Dummheit beginnt dort, wo Fehler ausgearbeitet, verteidigt, verfeinert, institutionalisiert und zur Grundlage für weiteres Handeln gemacht werden. So werden Fehler zunehmend verschlimmert. Und gerade das setzt paradoxerweise das Vorhandensein von Intelligenz voraus, je größer die Verschlimmbesserungen, je höher die erforderliche Intelligenz. Wir müssen uns damit abfinden, dass Intelligenz und Dummheit in hohem Maße miteinander korrelieren.

Die Leistungen der in Aussicht stehenden Superintelligenz sind nicht logisch rational, sondern getriggert durch Wahrscheinlichkeiten, die als bestpassende Muster nach einem sehr komplexen Verfahren (vgl. ausführliche Darstellung in Künstliche Intelligenz - Stand 2026) in der Flut der vorhandenen Daten gefunden werden. Sie sind hochgradig abhängig von der Art und Qualität dieser Daten, ihren in ihnen enthaltenen Vorurteilen und allen manipulativen auf sie angewendeten Tricks. Dieser Fundus für die Erkenntnisse der Superintelligenz-Systeme ist menschengemacht, denn die Daten stammen - ursprünglich - von Menschen. Schon wenige Jahre nach dem Einsatz der ersten großen Sprachmodelle ist nach aktuellen Schätzungen rund ein Drittel der verfügbaren Daten durch Werbung überproportional erweitert, von KI-Systemen bearbeitet, nicht kontrollierbar verändert, verfäscht oder neu erzeugt worden.

Was wird ein solches System tun, wenn es das Muster business first erst einmal erkannt hat und ähnlich wie bei dem epochemachenden DeepMind-Sieg im Go-Spiel gegen die weltbesten Spieler seinen Aufgaben als systemisches Prompt beimischt?

Auch die Organisation des Superintelligenz-Zirkus ist menschengemacht: immer leistungsfähigere Chips, immer größere Rechenzentren, global verteilte Allokation und Privateigentum der Ressourcen, staatlichen Kontrollen weitgehend entzogen.

Fazit: So hat die der Menschheit drohende Gefahr durch ein Superintelligenz-System vermutlich mehr zu tun mit jener hochentwickelten Intelligenz, die für Lösungen aus dem Reich der Dummheit erforderlich sind. „Wir sehen uns mit der Aussicht auf eine Dummheit konfrontiert, die so ausgefeilt ist, dass sie für ihre Nutznießer nicht mehr von Intelligenz zu unterscheiden ist“ (David C. Krakauer, Professor für Komplexe Systeme, Santa Fe Institute, New Mexico: What Makes Humans Stupid, Nautilus 20.8.2026), und dann ist Superintelligenz der Auftakt zu einer Ära der Superdummheit, so der Professor in einem philosophischen Essay.