Selbstmord auf Raten

Sommer 2025: Die KI-Technik präsentiert sich deutlich verbessert: Chatbots können jetzt direkt im Internet suchen. Dank der Reasoning-Technik sind sie in der Lage, auch komplexe Fragen besser zu beantworten. Aber zunehmende Qualitätsmängel, immer noch ungelöste Probleme mit den Halluzinationen. Beginnende Ebbe nach der Begeisterungsflut - was steckt dahinter?

Drohender Model Collapse

Im Bemühen um mehr ansprechbare Kunden haben die HighTech-Anbieter die Trainingsdaten ihrer Sprachmodelle auf riskante Weise erweitert, v.a. um Posts aus den social media(Facebook & Co.), eine Entscheidung für Reichweite auf Kosten der Datenqualität. Mails und die Dialoge mit den Chatbots finden enbenfalls Eingang in die Trainingsdaten, alles um eine bessere Ansprache für die Kundschaft zu erreichen.

Unabhängig davon ist die Datenmasse im Internet durch künstlich erzeugte Daten und die fortgeschrittene Kommerzialisierung stark erhöht worden (vgl. Qualitätsprobleme der KI-Modelle), beides Prozesse für weiters Absinken der Datenqualität.

Daraus resultiert eine jetzt schon auffällige Entwicklung in Richtung einer zunehmenden Vereinheitlichung der von den Chatbots produzierten Ergebnisse. Obwohl unterschiedliche Anbieter hinter den Modellen stehen, wirken die Resultate häufig erstaunlich ähnlich. Nicht überraschend, denn die Antworterzeugung der gängigen Modelle beruht schließlich auf Statistik und Wahrscheinlichkeitsrechnung, angewendet auf die großen Datenmengen des Big Data-Geschäfts. Wenn diese Daten dann noch automatisiert vermehrt werden, verschiebt sich die Durchschnittsfindung der Antworten in Richtung der automatisch erzeugten Daten. Damit ist das Verschwinden des individuellen Ausdrucks von Chatbot-Antworten nur noch eine Frage der Zeit.

Die Chatbots selber bieten ein ideales Werkzeug, in kurzer Zeit immer mehr Daten zu erzeugen. Beim Blick auf die Antwortergebnisse kann man sagen, alles war schon einmal da, aber jetzt ist es ein bisschen anders, meistens einfacher, einheitlicher, da Maschinen die Texte erzeugt haben. Das Ergebniss, wenn jeder Texte produzieren kann: das Interesse, diese Texte zur Kenntnis zu nehen, befindet sich im Sinkflug, bis niemand sie mehr lesen will. „Sprache wird zur entwerteten Ressource, eine Art Inflationsware im digitalen Raum", nennt Hans-Jörg Leichsenring das, der Herausgeber des Bank Blogs vom 11.7.2025.

Was passiert, wenn die KI anfängt, sich selbst, die von ihr erzeugten Produkte als Quelle für neue Produkte zu nutzen? Das klingt nach einer perfekt eingerichteten Endlos-Schleife. Was schon einmal da war, ist nochmal da, Innovation in der Sackgasse, keine gute Visitenkarte für Kreativität. Das Problem bei der Endlos-Schleife: Keiner kann sie stoppen. Die wunderbare Datenvermehrung im Internet ist nicht aufhaltbar.

Model Collapse nennt sich das, ein Phänomen, das die Wissenschaft schon seit zwei Jahren beschäftigt (als Beispiel eine Studie in der renommierten Zeitschrift Nature). Setzen Unternehmen blind auf solche Art von KI, landen sie in einer beliebigen Austauschbarkeit von Ergebnissen - nicht gerade das, was man von einem erfolgversprechenden Marketing erwartet, gilt es doch, das Besondere einer Firma in Szene zu setzen und nicht im breiter werdenden Mainstream zu ertrinken. 😂

Suicide by Stages of Death

Summer 2025: AI technology is much improved: chatbots can now search the internet directly. Thanks to reasoning technology, they are able to answer even complex questions better. But increasing quality deficiencies, still unresolved problems with hallucinations. Beginning to ebb after the flood of enthusiasm - what's behind it?

Impending model collapse

In an effort to attract more responsive customers, high-tech providers have expanded the training data of their language models in a risky way, especially with posts from social media (Facebook & Co.), a decision in favour of reach at the expense of data quality. Emails and the dialogues with the chatbots are also included in the training data, all in order to achieve a better approach for the customers.

Independently of this, the mass of data on the internet has been greatly increased by artificially generated data and the advanced commercialisation (cf. quality problems of AI models), both processes for a further decline in data quality. This results in an already noticeable development towards an increasing standardisation of the results produced by the chatbots.

Although different providers are behind the models, the results often appear very similar. This is not surprising, as the answer generation of the current models is ultimately based on statistics and probability calculation, applied to the large amounts of data in the big data business. If this data is then multiplied automatically, the averaging of the answers shifts in the direction of the automatically generated data. This means that the disappearance of the individual expression of chatbot responses is only a matter of time.

The chatbots themselves offer an ideal tool for generating more and more data in a short space of time. Looking at the response results, you can say that everything has been there before, but now it's a bit different, mostly simpler, more standardised, because machines have generated the texts. The result, when everyone can produce texts, is that interest in reading these texts declines until no one wants to read them any more. 'Language becomes a devalued resource, a kind of inflation commodity in the digital space,' says Hans-Jörg Leichsenring, editor of the Bank Blog from 11 July 2025.

What happens when AI starts to use itself, the products it generates, as a source for new products? That sounds like a perfectly organised endless loop. What was there before is there again, innovation at a dead end, not a good calling card for creativity. The problem with the endless loop is that nobody can put an end to it. The marvellous proliferation of data on the Internet cannot be stopped.

This is known as model collapse, a phenomenon that has been occupying scientists for two years (for example, a study in the renowned journal Nature). If companies blindly rely on this type of AI, they end up with an arbitrary interchangeability of results - not exactly what you would expect from promising marketing, as the aim is to showcase what makes a company special and not drown in the ever-expanding mainstream. Just something to think about 😂 .