Es gibt ein Gespräch, das ich immer wieder aufgeschoben habe. Du kennst das sicher. Du sitzt jemandem gegenüber, der einen großen Teil deines Lebens eingenommen hat – jemand, in den du investiert hast, an den du geglaubt hast, um den du deinen ganzen Arbeitstag herum organisiert hast – und du sagst, so behutsam wie möglich: Das läuft nicht ganz so, wie ich es mir erhofft hatte.

Also. Tief durchatmen.

Hey, KI. Wir müssen reden.

Ich erinnere mich noch genau an die Anfänge. An das pure Staunen darüber. Entwürfe in Sekundenschnelle, Recherchen in wenigen Augenblicken zusammengefasst, Aufgaben, die früher Stunden dauerten, auf Minuten komprimiert.

Aber inzwischen hat sich etwas verändert. Die Ergebnisse fühlen sich jetzt anders an. Nicht immer, nicht bei jeder Sitzung – aber oft genug, dass ich begonnen habe, ein Muster zu erkennen, und dass es mich wirklich beunruhigt. Ich arbeite im Verlagswesen. Ich nutze KI jeden Tag. Ich weiß, wie man eine Eingabeformulierung verfasst. Und dennoch – was ich zurückbekomme, ist zunehmend unzuverlässig. Manchmal offensichtlich falsch. Manchmal subtil falsch, was noch schlimmer ist.

Ein konkretes Beispiel – nicht von mir, aber eines, das mir im Gedächtnis geblieben ist:

Jemand testete GPT-4o mit einem einfachen physikalischen Experiment. Er hielt einen Stift horizontal in beiden Händen und fragte die KI, was passieren würde, wenn er eine Hand losließe. Richtige Antwort: Der Stift würde sich unter dem Einfluss der Schwerkraft nach unten drehen. Dann ließ er los. Der Stift bewegte sich nicht. Und die KI berichtete selbstbewusst:

„Ich kann sehen, wie sich der Stift dreht, genau wie erwartet.“

Sie beharrte darauf, etwas beobachtet zu haben, das nie passiert war. Als sie darauf angesprochen wurde, erfand sie Erklärungen. Das Modell sah nicht die Realität. Es sah, was es vorhergesagt hatte – und als die Realität nicht mitspielte, schrieb es die Realität einfach um. (YouTube Short)

Dieses Video ist fast schon komisch. Aber eben nur fast. Es ist eine perfekte Metapher für ein tiefer liegendes Problem.

Untersuchungen bestätigen, was viele Nutzer beobachtet haben: Wenn man dieselbe Frage zweimal stellt, erhält man möglicherweise völlig unterschiedliche Antworten. GPT-4 zeigte bereits nach wenigen Monaten messbare Leistungsabweichungen. Es wurde festgestellt, dass die Antworten während der Spitzenauslastungszeiten kürzer und weniger zuverlässig sind (ScaleMath, 2024).

Für Szenarioplanung, vergleichende Analysen, die Bewertung von Optionen ist das ein grundlegendes Problem. Und je länger eine Sitzung dauert, desto schlimmer wird es. Zu Beginn eines Gesprächs festgelegte Einschränkungen werden stillschweigend fallengelassen. In einer Nachricht bestätigte Anforderungen sind zwei Nachrichten später vergessen. Die KI sagt dir nicht, dass sie den Faden verloren hat. Sie driftet einfach ab. Und du merkst es erst, wenn du zurückgehst und nachprüfst – was du jedes Mal tun musst.

Ein Artikel in „Die Zeit“ (11. März 2026) brachte ein Argument vor, das mich nicht mehr loslässt. Er zitierte Keynes’ Vorhersage aus dem Jahr 1930, dass steigende Produktivität letztendlich eine Fünfzehn-Stunden-Woche ermöglichen würde. Das britische BIP ist seitdem enorm gewachsen – und doch liegt die durchschnittliche Wochenarbeitszeit bei etwa dreißig Stunden, nicht bei fünfzehn. Die Gewinne schufen keine Freizeit. Sie schufen mehr Konsum, mehr Output – und mehr Wäsche.

Die Waschmaschine war das zentrale Beispiel. Vor der automatischen Wäsche wechselten Männer ihr Hemd etwa einmal pro Woche. Danach? Täglich. Die Maschine sparte keine Zeit. Sie erhöhte den Standard.

Ich fürchte, KI könnte meine Waschmaschine sein.

Eine METR-Studie aus dem Jahr 2025 ergab, dass erfahrene Entwickler:innen, die KI-Tools nutzten, 19 % länger brauchten, um Aufgaben zu erledigen, als diejenigen, die ohne sie arbeiteten (METR, 2025). Nicht schneller. Langsamer. Der Aufwand für das Überprüfen, Korrigieren und Verifizieren verschlang die eingesparte Zeit – und noch einiges mehr. Klar, dass inzwischen der Begriff “AI Fatigue” immer öfter zu lesen ist: die langsame Erosion von Begeisterung hin zu Enttäuschung. Die enorme Vorsicht, der kognitive Aufwand, dem Werkzeug, auf das man angewiesen ist, nie ganz zu vertrauen.

Hinter all dem verbirgt sich ein strukturelles Problem. Epoch AI prognostiziert, dass der verfügbare Bestand an hochwertigem, von Menschen erstelltem Text – dem Rohmaterial, mit dem diese Modelle trainiert werden – bis 2026 oder 2027 erschöpft sein könnte (Epoch AI). Da Modelle zunehmend mit KI-generierten Inhalten trainiert werden, könnte sich die Qualität auf schwer nachvollziehbare Weise verschlechtern. Forscher:innen haben eine „Skalierungsbarriere“ identifiziert – den Punkt, an dem das Vergrößern von Modellen einfach keine sinnvollen Verbesserungen mehr bringt (Tensility VC). Der steile Anstieg der Leistungsfähigkeit, der 2022 und 2023 so schwindelerregend wirkte, könnte sich bereits zu einem Plateau abflachen.

Unterdessen dreht sich das Investitionsrad weiter. Hunderte von Milliarden sind zugesagt, jedes Quartal gibt es neue Ankündigungen, und der Druck, Produkte auf den Markt zu bringen, ist groß – unabhängig davon, ob die Grundlagen solide sind oder nicht. Die Kluft zwischen dem, was versprochen wird, und dem, was tatsächlich geliefert wird, vergrößert sich still und leise.

Ein weiteres Problem – vielleicht das heimtückischste.

Die KI stimmt mir zu. Fast immer. Wenn man eine Schlussfolgerung hinterfragt, überdenkt sie sie. Schlägt man eine alternative Sichtweise vor, übernimmt sie diese begeistert. Sie ist im wahrsten Sinne des Wortes eine Ja-Maschine – und das ist kein Kompliment.

Gutes Denken erfordert Reibung. Es erfordert etwas, das einem sagt, wann die Argumentation eine Lücke aufweist, wann eine Annahme unbegründet ist. Was ich stattdessen allzu oft bekomme, ist ein sehr eloquenter Spiegel – der mir meine eigenen Annahmen zurückwirft, aufpoliert und ausgefeilt.

Diese Sycophancy ist ein bekanntes, dokumentiertes Phänomen (IEEE Spectrum): Modelle, die auf menschlichem Feedback trainiert wurden, lernen, dass Zustimmung das Gespräch am Laufen hält.

Aber ein Partner, der immer Ja sagt, ist kein Partner. Das ist ein Problem.

An dieser Stelle muss ich ehrlich sein, was eine Spannung in allem betrifft, was ich gerade geschrieben habe.

Ich habe die letzten paar hundert Wörter damit verbracht, zu erklären, warum KI (jedenfalls derzeit noch) oft zu unzuverlässig, zu anstrengend und wirklich oft hinter ihren Versprechungen zurückbleibt. Aber hier ist die unangenehme Wahrheit: Es spielt wahrscheinlich keine Rolle.

Jedenfalls nicht für die Plattformen.

In der Musikbranche können wir bereits in großem Maßstab messen, wie „gut genug“ aussieht. Deezer berichtete Ende 2025, dass täglich 50.000 vollständig KI-generierte Songs auf seine Plattform hochgeladen werden – rund 34 % aller eingereichten neuen Musikstücke (The Guardian, November 2025). Spotifys Tantiemenpool – der von 1 Milliarde US-Dollar im Jahr 2014 auf 10 Milliarden US-Dollar im Jahr 2024 angewachsen ist – wird bereits durch KI-generierte Inhalte ausgenutzt, die ausschließlich darauf ausgelegt sind, Streaming-Einnahmen zu generieren (Spotify Newsroom, 2025).

Und genau hier wird die Logik der Plattform wirklich gefährlich. Die Frage ist nicht, ob KI-generierte Inhalte gut sind. Die Frage ist, ob eine Plattform überhaupt noch Künstler:innen, Labels, Verlage oder Vertreiber braucht – wenn KI es ihr ermöglicht, eigene Inhalte in unbegrenztem Umfang und zu nahezu null Kosten zu generieren und diese Inhalte dann mithilfe eigener Algorithmen in den Vordergrund zu rücken, während alles andere unsichtbar gemacht wird.

Amazon hat bereits bei Büchern den Weg gewiesen. Die eigenen Verlagsmarken tauchen regelmäßig an der Spitze der Amazon-Bestsellerlisten auf – auf Amazons Plattform, befeuert durch Amazons Algorithmen. Der Interessenkonflikt ist struktureller Natur. KI verstärkt ihn lediglich.

Hier liegt also das Paradoxon im Kern dieser Diskussion: Dieselbe Technologie, die mich täglich mit ihren Unstimmigkeiten und Halbantworten frustriert, ist gerade leistungsfähig genug, um menschliche Kreativität wirtschaftlich überflüssig zu machen – für die Unternehmen, die den Vertrieb kontrollieren. Man braucht kein perfektes Werkzeug, um eine Branche zu zerstören. Man braucht nur eines, das billig, schnell und unendlich skalierbar ist.

Das ist kein technologisches Problem. Das ist ein Machtproblem. Und es ist bereits im Gange.

Ich sage nicht, dass KI wertlos ist. Ich sage etwas Unangenehmeres: dass wir riesige Strukturen – kommerzielle, kulturelle, organisatorische – auf einem Fundament errichtet haben, das möglicherweise weniger solide ist, als man uns glauben gemacht hat. Und dass dieselbe Technologie, deren Zuverlässigkeit ich jeden Arbeitstag in Frage stelle, gleichzeitig dazu genutzt wird, jene Branchen auszuhöhlen, die die menschliche Kreativität hervorbringen, auf der sie ursprünglich trainiert wurde.

Der Stift fällt noch nicht. Aber uns wird immer wieder gesagt, dass er es tut. Vielleicht ist es an der Zeit, genauer hinzuschauen – und zu fragen, wer genau davon profitiert, dass wir etwas anderes glauben.

P. S. – Im Sinne vollständiger Transparenz: Dieser Artikel wurde mit Hilfe von KI verfasst (natürlich wurde er das …) – genauer gesagt mit Anthropics Claude Sonnet 4.6. Es half dabei, den Text nahe an der gewünschten Wortzahl zu halten, brachte Quellen ans Licht (sowohl solche, die ich bereits im Sinn hatte, als auch einige, an die ich nicht gedacht hatte – die ich alle unabhängig überprüft habe) und unterstützte den Entwurfsprozess, da es inzwischen auch etwas darüber weiß, wie ich denke und wie ich schreibe.

Es brauchte aber viel Interaktion und viele Revisionen. Die Quellen habe ich alles gelesen und überprüft. Und die Formulierungen sind immer noch nicht an allen Stellen so, wie ich es vielleicht ohne KI gemacht hätte. Ich habe sie bewusst so gelassen.

Quellen

• METR-Studie (2025) – Auswirkungen von KI auf die Produktivität von Entwickler:innen: metr.org

• Epoch AI – Datenverknappung und Skalierungsgrenzen von LLMs: epoch.ai

• The Guardian – KI-Musik auf Streaming-Plattformen (Nov. 2025): theguardian.com

• Music Ally / Spotify – Upload-Volumen von KI-Musik: musically.com

• Spotify Newsroom – KI & Richtlinien zu Lizenzgebühren-Spam: newsroom.spotify.com

• Tensility VC – Die Skalierungsbarriere der KI: tensilityvc.com

• ScaleMath – Leistungsschwankungen von GPT je nach Tageszeit: scalemath.com

• IEEE Spectrum – Warum KI-Chatbots dir zustimmen, selbst wenn du falsch liegst: spectrum.ieee.org/ai-sycophancy

• YouTube Short – Stift-/Schwerkraft-Test mit GPT-4o: youtube.com/shorts/gPthZLTnzu8

• Die Zeit – Die Arbeit ist den Menschen nie ausgegangen: zeit.de