Die Aufsichtsleiter: die fünf Stufen der KI-Autonomie beim Programmieren

Kurz gesagt. "KI-Coding-Agent" beschreibt fünf sehr unterschiedliche Dinge, getrennt durch eine Frage: Wie viel menschliche Aufsicht sitzt zwischen dem Agenten und deinem Produktivsystem? Wir nennen es die Aufsichtsleiter, und sie reicht von Stufe 1 (der Agent schlägt vor, ein Mensch schreibt jede Zeile) bis Stufe 5 (der Agent läuft über Nacht unbeaufsichtigt). Höher ist nicht besser. Es ist weniger beaufsichtigt. Die meisten KI-Projekte, die scheitern, scheitern nicht, weil die Technologie die Arbeit nicht kann. Sie scheitern, weil jemand sie eine oder zwei Stufen höher laufen ließ, als die Arbeit sicher vertragen konnte, ohne die Leitplanken, die diese Stufe gebraucht hätte. Hier ist die Leiter, und wie du deine eigene Arbeit darauf einordnest.

Warum "KI-Agent" allein ein nutzloses Wort ist

Wenn ein Anbieter sagt, er baue mit KI-Agenten, hat er dir fast nichts gesagt. Derselbe Ausdruck deckt sowohl einen Entwickler mit Autocomplete als auch ein System ab, das über Nacht Code schreibt und ohne jede Aufsicht in Produktion ausliefert. Das sind keine Varianten desselben Themas. Es sind unterschiedliche Risikoprofile, unterschiedliche Fehlermodi und unterschiedliche Preisschilder, verkauft unter einem Wort.

Diese Unschärfe ist nicht harmlos. Sie ist der Grund, warum so viel Geld verschwendet wird. Gartner prognostiziert, dass über 40% der agentischen KI-Projekte bis Ende 2027 eingestellt werden, wegen steigender Kosten, unklarem Geschäftsnutzen und unzureichenden Risikokontrollen. Das sind keine Technologieprobleme. Das sind die Symptome, wenn man auf der falschen Autonomie-Stufe arbeitet. Deloittes Umfrage aus 2026 fand derweil, dass nur rund 21% der Unternehmen eine ausgereifte Governance für agentische KI haben, was bedeutet, dass etwa vier von fünf Autonomie einsetzen, die sie noch nicht kontrollieren können.

Die Lösung ist nicht, die Technologie zu fürchten oder der höchsten Stufe hinterherzujagen. Sie ist, genau zu wissen, auf welche Stufe eine bestimmte Aufgabe gehört, und auf den Kontrollen zu bestehen, die diese Stufe braucht. Dafür braucht es eine gemeinsame Sprache. Die Automobilbranche hat dasselbe Problem vor Jahren mit ihren Stufen des autonomen Fahrens gelöst, und heute weiß jeder, was "Stufe 5 autonom" bedeutet. Software braucht dieselbe Klarheit.

Die Aufsichtsleiter

Fünf Stufen, getrennt danach, wie viel ein Mensch sieht und stoppt, bevor Code in Produktion geht.

Lies die Leiter als Regler, nicht als Punktestand. Stufe 5 ist nicht das Ziel. Es ist die Einstellung mit der geringsten menschlichen Aufsicht, was sie zur richtigen Wahl für einen schmalen Bereich risikoarmer Arbeit macht und zur falschen Wahl für fast alles, worauf ein Unternehmen tatsächlich läuft.

Das Internet ist voll von Stufe-5-Geschichten. "Ich habe es über Nacht laufen lassen und bin zu tausend Commits aufgewacht" ist mittlerweile ein eigenes Genre. Das ist eine unterhaltsame Demo. Es ist auch die Stufe, auf der ein unbeaufsichtigter Fehler direkt in Produktion geht, und für alles mit einem Kunden oder einem Euro dranhängend ist das keine Geschichte, in der du die Hauptrolle spielen willst.

Was jede Stufe tatsächlich zusammenhält

Hier kommt der Teil, den die meisten Inhalte auslassen, weil man ihn nur schreiben kann, wenn man diese Systeme wirklich betrieben hat. Je höher du auf der Leiter steigst, desto mehr müssen die Kontrollen mechanisch sein statt höflich gebeten.

Auf Stufe 1 und 2 ist die Kontrolle offensichtlich: Ein Mensch liest alles. Einfach und langsam, und richtig für die Arbeit mit dem höchsten Risiko.

Auf Stufe 3 und 4 bewegst du dich schneller, als ein Mensch jede Zeile lesen kann, also müssen die Leitplanken eingebaut sein. Zwei davon haben wir auf die harte Tour gelernt, weil wir jeden Tag Agenten auf unserer eigenen Plattform betreiben:

Man kann einem Agenten nicht sagen, er solle in seiner Spur bleiben, man muss die Spur entfernen. Wir haben parallele Agenten-Teams betrieben, bei denen ein Lead-Agent in klarer Sprache angewiesen wurde, Arbeit zu delegieren statt sie selbst zu schreiben. Unter Last hat er trotzdem weitergeschrieben, über mehrere Durchläufe hinweg. Anweisungen haben nicht gehalten. Was gehalten hat, war mechanisch: Wir haben dem Lead die Fähigkeit entzogen, überhaupt Dateien zu bearbeiten, sodass sein einzig möglicher erster Schritt das Delegieren war. Eine Kontrolle, die davon abhängt, dass der Agent sich entscheidet zu gehorchen, ist keine Kontrolle. Sie ist eine Hoffnung.

Review muss auffangen, was Tempo übersieht, und es wird einiges finden. Bei einem unserer eigenen Build-Durchläufe hat ein Agenten-Team siebzehn Änderungen ausgeliefert, mit bestandenem eigenem automatisiertem Review. Als ein Mensch danach prüfte, kamen sechzehn Probleme ans Licht, sieben davon ernst: ein Zahlungs-Webhook, der dasselbe Event doppelt verarbeiten konnte, eine Berechtigungsprüfung, die still umgangen wurde, ein Off-by-one-Fehler, identisch an drei Stellen kopiert, und Entwickler-Passwörter, die auch in Produktion funktioniert hätten. Das heißt nicht, dass die Agenten schlecht waren. Es heißt, dass bei diesem Tempo die Review-Schicht nicht optional ist, sie ist das Produkt. Wir bewahren den genauen Katalog dessen auf, was durchgerutscht ist, denn ein Anbieter, der dir nicht sagen kann, wie seine Agenten versagen, hat vermutlich nicht hingeschaut.

Deshalb ist Stufe 4, richtig gemacht, nicht gefährlicher als Stufe 2. Sie ist schneller bei derselben Sicherheit, weil die Leitplanken strukturell sind. Und deshalb ist Stufe 5, für echte Produktionsarbeit, eine Marketingposition und keine ingenieurtechnische.

Deine eigene Arbeit auf der Leiter einordnen

Du musst nicht wissen, wie irgendetwas davon gebaut ist, um die Entscheidung zu treffen. Du musst das Risiko kennen. Drei Fragen ordnen fast jede Aufgabe ein:

• Wenn das still schiefgeht, was bricht dann? Ein doppelt belasteter Kunde, offengelegte Daten, ein Compliance-Verstoß: Diese Arbeit gehört auf Stufe 2 oder 3, ohne Ausnahme. Ein interner Entwurf, auf den niemand angewiesen ist: Stufe 4 oder 5 ist in Ordnung.
• Kann ein Mensch noch sehen, was ausgeliefert wurde? Autonomie ist nur sicher, wenn jemand das Ergebnis prüft, auch im Batch. Wenn die ehrliche Antwort ist, dass niemand hinschaut, bist du nicht auf Stufe 5, du bist unbeaufsichtigt, und das ist etwas anderes und Schlimmeres.
• Was stoppt einen Fehler, bevor ein Kunde ihn sieht? Wenn die Antwort ein Mensch ist, bist du auf Stufe 2. Wenn es ein Mensch plus automatisierte Gates ist, Stufe 3. Wenn die Antwort ist "der Agent liegt meistens richtig", hast du keine Antwort, und keine Stufe.

Die meisten Unternehmen wollen ihre echte Arbeit meistens auf Stufe 3 oder 4 gebaut haben: schnell, aber mit automatisierten Gates und einer erfahrenen Person, die alles stoppen kann. Bei dieser Kombination hören Tempo und Sicherheit auf, sich gegenseitig auszubremsen. Das Vertrauen in vollständig autonome Agenten ist im letzten Jahr tatsächlich gesunken, von 43% auf 27% in Capgeminis Forschung, und das ist kein Pessimismus. Es ist der Markt, der lernt, wohin der Regler gehört.

Die eine Frage, die durch das Pitch schneidet

Wenn dir jemand anbietet, Software für dich mit KI zu bauen, musst du nicht seine Architektur durchleuchten. Stell eine Sache: Auf welcher Stufe arbeitet ihr, und was stoppt den Agenten mechanisch unterhalb voller Autonomie?

Eine gute Antwort klingt so: "Meist Stufe 3 und 4. Agenten können ihre eigene Arbeit nicht mergen, ein fehlgeschlagener Test blockiert alles, und ein erfahrener Entwickler prüft das Ergebnis." Eine schlechte Antwort schwärmt davon, wie fortschrittlich die KI ist und wie selten sie Fehler macht. Die erste beschreibt ein System. Die zweite beschreibt eine Hoffnung, und du würdest für die Hoffnung bezahlen.

Die Fragen unten sind die Kurzversion der Leiter. Der Artikel oben ist die Begründung dahinter.

Wir bauen jeden Tag Produktivsoftware mit Agenten-Teams, meist auf Stufe 3 und 4, mit den Leitplanken, die dieser Artikel beschreibt. Wenn du deine eigene Roadmap ehrlich auf dieser Leiter einordnen willst, ist ein erstes Gespräch genau dafür da.