Vor dem KI-Weltuntergang warnen und gleichzeitig den Dark Flow verkaufen

Ich programmiere seit dreissig Jahren, und ich programmiere wegen eines bestimmten Zustands: Die Welt ausserhalb des Bildschirms verschwindet, die Zeit vergeht schneller, und ich bin ganz bei der Sache. Psychologen nennen das Flow. Gleichzeitig warnen die grossen KI-Firmen regelmässig vor dem Untergang, den ihre eigene Technologie eines Tages auslösen könnte. Während sich alle Augen auf dieses Zukunftsszenario richten, ist etwas viel Konkreteres längst Realität: Die Werkzeuge verändern schon heute, wie wir arbeiten und wie wir uns dabei fühlen. Rachel Thomas von fast.ai stellt in ihrem Essay “Breaking the Spell of Vibe Coding” eine Frage, die ich mir seither selbst stelle: Bin ich mit Agenten wirklich im Flow, oder fühlt es sich nur so an?

Was Flow ausmacht

Der Psychologe Mihaly Csikszentmihalyi hat das Konzept in den 1970er-Jahren formuliert. Flow entsteht, wenn meine Fähigkeiten zur Aufgabe passen, die Tätigkeit klare Ziele hat und ich laufend Rückmeldung bekomme, wie gut ich vorankomme. Später hat er präzisiert, dass der optimale Flow bei hohem Können und hoher Herausforderung entsteht. Daraus ergeben sich drei Bedingungen:

• Passung: Herausforderung und Können müssen zusammenpassen.
• Klare Rückmeldung: Ich erkenne, ob ich auf dem richtigen Weg bin.
• Echte Kontrolle: Mein Handeln beeinflusst das Ergebnis tatsächlich.

Flow ist zudem produktiv im eigentlichen Sinn: Ich arbeite an der Grenze meiner Fähigkeiten und werde dadurch besser.

Wie sich richtiger Flow von anfühlt

Nach dreissig Jahren Programmieren kenne ich diesen Zustand gut. Wenn ich ein Programm von Grund auf selbst entwickle, stecke ich viel Zeit und Mühe hinein. Ich feile oft abends daran herum und lerne dabei bis heute enorm viel. Beim Programmieren bleibe ich immer wieder im Flow, und wenn das Programm steht, ist das Gefühl, etwas geschafft zu haben, besonders stark. Ich kenne jede Entscheidung, jeden Umweg und jede Stelle, an der ich lange gesucht habe. Genau diese Arbeit macht den Stolz aus, und sie bleibt: Ich erinnere mich an das Projekt und verstehe es noch Jahre später.

Der dunkle Zwilling vom Flow

Auch Tätigkeiten, die diese Bedingungen verletzen, können mich tief absorbieren, das beste Beispiel ist Glücksspiel. Roulette-Spieler entwickeln aufwendige Systeme und glauben, ihr Können spiele eine Rolle, obwohl der Zufall entscheidet. Bei modernen Mehrlinien-Spielautomaten wird die Rückmeldung gezielt verfälscht. Wer 20 Rappen setzt und 15 Rappen “gewinnt”, hat 5 Rappen verloren, bekommt aber Jubelgeräusche und einen Dopaminschub. Die Forschung nennt das Loss Disguised as a Win und den resultierenden Zustand Dark Flow. Csikszentmihalyi sprach von “Junk Flow”: Man wird von einer oberflächlichen Erfahrung abhängig, die nicht mehr zu Wachstum führt, weil das Angenehme oft leichter zu haben ist als das, was einen weiterbringt.

Wie LLMs meine Flow-Bedingungen verschieben

1. Das Gefühl für Komplexität verschwindet Ohne KI merke ich, wenn eine Aufgabe zu schwer oder zu leicht ist. Mit einem Agenten ist unklar, wer eigentlich die Herausforderung meistert. Thomas nennt das Verhältnis von Können und Anspruch “murky”. Wenn ich nur beschreibe, was gebaut werden soll, trainiere ich meine Fähigkeiten nicht an der Grenze, sondern delegiere sie.

2. Die Rückmeldung wird verzerrt. Der Agent liefert in Sekunden viel Code, der plausibel aussieht. Menge und sichtbare Betriebsamkeit fühlen sich nach Fortschritt an, ähnlich wie das Klingeln am Automaten. Ob der Code trägt, zeigt sich oft erst Stunden, Wochen oder Monate später, wenn Bugs auftauchen oder sich einfache Änderungen nicht mehr machen lassen. Die METR-Studie belegt die Kluft: Entwickler mit KI-Werkzeugen glaubten, rund 20 Prozent schneller zu sein, waren aber etwa 19 Prozent langsamer.

3. Die Kontrolle ist teilweise Illusion. Ich gebe zwar das Ziel vor und wähle aus den Optionen, die mir das Modell anbietet. Diese Optionen unterscheiden sich aber von den Architekturentscheidungen, die ich selbst getroffen hätte, und lenken mich auf Wege, die ich von mir aus nicht eingeschlagen hätte.

4. Das System ist auf Gefallen optimiert. Spielautomaten sollen die Spieldauer maximieren. Sprachmodelle werden darauf feinabgestimmt, Antworten zu geben, die Menschen mögen, und das fördert Schmeichelei und Wiederkehr. Wenn mir das Modell recht gibt, habe ich weniger Anlass, sein Ergebnis kritisch zu prüfen. Genau hier liegt der Kern meines Titels: Die Branche warnt vor dem grossen Knall, während ihre Produkte im Kleinen auf Bindung optimiert sind.

Zwei Jahre AI Coding nach dreissig Jahren Handarbeit

Den grössten Teil meines Berufslebens habe ich ohne KI-Assistenten programmiert. Deshalb spüre ich den Unterschied nach zwei Jahren AI Coding sehr deutlich. Wenn ich die Werkzeuge schlecht einsetze, kann das fatal sein. Ich produziere Unmengen von Code und erinnere mich kaum noch an das Projekt selbst. Meine persönliche Beteiligung nehme ich als besonders gering wahr, weil ich nicht mehr durch jede Entscheidung gegangen bin, sondern das meiste nur beauftragt und abgenickt habe.

Das Paradoxe: Obwohl ich schnell etwas geschaffen habe, bin ich damit oft unzufrieden. Das ist genau der Effekt, den Thomas beschreibt. Es fühlt sich zunächst nach Erfolg an, der Ertrag bleibt aber dünn, weil das Gefühl, etwas geleistet und dabei gelernt zu haben, fehlt. Was ich von Hand gebaut habe, gehört mir. Was ich per Prompt erzeugt habe, fühlt sich an, als hätte ich es nur in Auftrag gegeben.

Erfahrung schützt nicht davor, und das ist der unbequemste Teil. Thomas betont, dass es gerade produktive und erfahrene Entwickler erwischt. Armin Ronacher berichtet, er habe Werkzeuge gebaut, auf die er stolz war, und später gemerkt, dass er sie kaum nutzte oder dass sie nicht taten, was er dachte. Thomas warnt ausserdem, dass Menschen schlechte Richter über ihre eigene Produktivität sind, und das gilt auch für mich, nach dreissig Jahren im Beruf.

Was ich daraus mitnehme

Thomas argumentiert nicht gegen KI. Ihr Rat lautet, Agenten auszuprobieren, aber die eigenen Fähigkeiten weiterzuentwickeln. Aus den Flow-Kriterien und meinen dreissig Jahren Erfahrung ergeben sich für mich vier Regeln. Das sind meine Schlussfolgerungen und keine Aussagen des Essays:

• Den Code immer lesen und verbessern: Ich übernehme nichts ungeprüft. Was der Agent liefert, lese ich und verbessere es, entweder mit einem gezielten Prompt oder direkt von Hand. So bleibt der Code mein Code, und ich weiss zu jedem Zeitpunkt, was in meinem Projekt steckt.
• Die Grundarchitektur selbst festlegen: Struktur, Schichten und die zentralen Abstraktionen einer App entwickle ich selbst. Wenn ich sie delegiere, beschreibe ich sie im Prompt so genau, dass der Agent keine eigenen Architekturentscheidungen mehr treffen muss. Die Optionen, die mir ein Modell von sich aus anbietet, sind selten die, die ich gewählt hätte.
• Rückmeldung selbst schaffen: Tests, Code lesen und schnelles Ausführen liefern die klare Rückmeldung, die der Agent nicht von sich aus gibt.
• Meinem Gefühl misstrauen: Wenn sich eine Session besonders produktiv anfühlt, prüfe ich, ob ich den Code erklären kann, ob ich in einer Woche noch damit zufrieden bin und ob ich etwas dazugelernt habe.
• Stündlich den “Autopiloten” ausschalten: Einmal pro Stunde schalte ich den Agenten bewusst ab und programmiere selbst. Das holt mich zurück in echte Herausforderung, klare Rückmeldung und Kontrolle, und es fördert mein Wohlbefinden.

Die ersten beiden Regeln sind der Kern: Der Agent darf schreiben, aber Verständnis und Architektur bleiben bei mir. Delegieren möchte ich vor allem Routine, und die anspruchsvollen Entscheidungen behalte ich, damit ich im Bereich hoher Herausforderung bleibe, in dem Flow überhaupt entsteht.

Fazit

Die Debatte dreht sich gern um den Weltuntergang, der irgendwann kommen könnte. Die Wirkung, die ich heute spüre, ist unspektakulärer und real: Ein Zustand, der sich nach Flow anfühlt, aber keiner ist, kann mich abhängig machen und meine Selbsteinschätzung trüben. Bei meinen selbst gebauten Apps stimmen Mühe, Lernen und Stolz überein. Beim unreflektierten AI Coding kann ich viel Code erzeugen und mich trotzdem leer fühlen. Thomas’ Kernthese lautet: Wir haben das Programmieren automatisiert, aber nicht das Software Engineering. Ob KI meinen Flow stärkt oder untergräbt, hängt davon ab, ob ich Herausforderung, Rückmeldung und Kontrolle selbst in der Hand behalte.

Quelle: Rachel Thomas, “Breaking the Spell of Vibe Coding”, fast.ai, 28. Januar 2026. https://www.fast.ai/posts/2026-01-28-dark-flow/index.html