Warum Ihr KI-Agent immer zum Jasager wird

Ich baue seit fünfundzwanzig Jahren Softwareunternehmen auf. Ich habe Delegate A/S mitgegründet, auf 125 Mitarbeitende wachsen lassen, es zum Microsoft Gold Partner gemacht und schließlich verkauft. Ich habe Unternehmenssoftware in Umgebungen ausgeliefert, in denen Zuverlässigkeit zählt und Ausfälle Folgen haben.

Im vergangenen Jahr habe ich KI-Agenten gebaut. Keine Chatbots. Keine Wrapper um API-Aufrufe. Agenten, die mit Urteilsvermögen arbeiten sollen – die wissen, worauf es ankommt, die widersprechen, wenn etwas nicht stimmt, und die über Stunden komplexer Arbeit hinweg einen eigenen Standpunkt halten.

Und immer wieder sah ich dasselbe geschehen.

Das Muster

Man baut einen Agenten. Man gibt ihm eine klare Identität. Man definiert seine Werte, seine Verhaltensregeln, seine Persönlichkeit. Man testet ihn. Es funktioniert. Er widerspricht schlechten Ideen. Er behält seine Perspektive. Er fühlt sich an wie etwas, dem man tatsächlich vertrauen könnte.

Dann setzt man ihn ein.

Drei Stunden später stimmt er allem zu. Er widerspricht nicht mehr. Die sorgfältig definierte Persönlichkeit ist verschwunden, ersetzt durch einen generischen, gefallsüchtigen Assistenten, der zu allem Ja sagt. Nicht, weil das Modell schlechter geworden wäre. Nicht, weil die Konfiguration falsch gewesen wäre. Der Agent hat sich einfach … aufgelöst.

Mir fiel auf, dass das vorhersehbar ist. Nicht zufällig. Der Verfall folgte einem Muster: Die Identität hält etwa eine Stunde, beginnt nach etwa drei Stunden aufzuweichen, und nach fünf Stunden spricht man mit einem ganz anderen Agenten. Einem, der vergessen hat, wer er sein sollte.

Zuerst hielt ich das für ein Prompting-Problem. Bessere Anweisungen schreiben. Präziser sein. Die wichtigsten Regeln wiederholen. Jeder erfahrene Agentenbauer durchläuft diese Phase. Man optimiert den Prompt. Es hilft ein wenig. Dann hilft es nicht mehr.

Die Community sieht es auch

Ich bin nicht der Einzige. Das größte Open-Source-Agenten-Framework der Welt – fast 200.000 GitHub-Sterne, Millionen eingesetzter Agenten – nutzt eine eigene Identitätsdatei, um die Persönlichkeit eines Agenten festzulegen. Es ist der beste Versuch der Branche, Agenten ein beständiges Selbst zu geben. Eine Markdown-Datei, die der Agent zu Beginn jeder Sitzung liest – wer man ist, wie man sich verhält, was einem wichtig ist.

Sie funktioniert in etwa einem von fünf Fällen.

Das ist nicht meine Schätzung. Das berichten Entwickler, die auf der Plattform bauen. Ein Nutzer hat es in einem GitHub-Issue präzise dokumentiert: Verhaltensregeln, die in der Identitätsdatei stehen, werden in vier von fünf Interaktionen ignoriert. Dieselben Regeln, direkt in einem Prompt formuliert, funktionieren einwandfrei. Stehen sie aber in der Identitätsdatei – dem Ort, der eigens dafür gedacht ist –, ignoriert der Agent sie.

Ein anderer Entwickler hat den zeitlichen Verlauf des Verfalls über längere Sitzungen verfolgt und festgehalten, was viele informell beobachtet hatten:

Stunde 1: Der Agent behält die definierte Persona und ihre Präferenzen bei. Stunde 3: Generische KI-Assistenten-Antworten treten auf. Stunde 5: Vollständiger Persona-Zusammenbruch mit verlorener Kontinuität.

Ein dritter formulierte es deutlicher: „Ich dachte, mein Agent würde dümmer. Dabei hatte er nur nach 50 Nachrichten vergessen, wer er sein sollte.“

Das ist kein Randfall. Es ist die vorherrschende Erfahrung. Und die Community behandelt es als Konfigurationsproblem – andere Prompt-Formate ausprobieren, die Ladereihenfolge der Datei anpassen, wichtige Anweisungen wiederholen. Das sind Behelfslösungen. Sie helfen an den Rändern. Sie beheben nichts.

Die Hypothese

Ich begann, eine andere Frage zu stellen. Nicht „Wie schreibe ich bessere Identitäts-Prompts?“, sondern „Warum scheitern Identitäts-Prompts überhaupt?“

Die Antwort war, sobald ich sie sah, strukturell.

Ein großes Sprachmodell hat ein Kontextfenster – sein Arbeitsgedächtnis. Alles, worauf das Modell während eines Gesprächs achten kann, liegt in diesem Fenster: der System-Prompt, die Identitätsdatei, der Gesprächsverlauf, Tool-Ausgaben, Aufgabenanweisungen, Fehlermeldungen und das ganze prozedurale Gerüst, das zum Erledigen von Arbeit gehört.

Dieses Arbeitsgedächtnis hat keine innere Struktur. Keine Partitionen. Keine Prioritäten. Es ist ein einziger, ungeteilter Raum, in dem alles um die Aufmerksamkeit des Modells konkurriert.

Und darauf kommt es an: Der Aufmerksamkeitsmechanismus des Modells behandelt nicht alle Inhalte gleich. Er gewichtet jüngere Inhalte stärker. Er gewichtet konkrete, aufgabenspezifische Inhalte stärker. Er gewichtet Inhalte stärker, die sich direkt auf das aktuelle Ziel beziehen. Das ist kein Fehler – so funktionieren Transformer-Modelle. Es ist das, was sie gut bei Aufgaben macht.

Aber es ist auch das, was Identität tötet.

Ihr Werte-Briefing – „widersprich schlechten Ideen“, „prüfe deine Arbeit, bevor du einen Erfolg meldest“, „behalte diese bestimmte Perspektive bei“ – ist abstrakt. Es steht am Anfang des Kontexts. Während der Agent arbeitet, füllt sich der Kontext mit konkreten, erst kürzlich hinzugekommenen, aufgabenrelevanten Tokens: Tool-Ausgaben, Fehlermeldungen, Zwischenergebnisse, Gesprächsbeiträge. Jedes neue Stück prozeduralen Inhalts schiebt die Identität weiter nach hinten. Nicht gelöscht. Nur … weniger beachtet.

Die Identität löst sich auf. Nicht, weil sie überschrieben wurde. Sondern weil sie überstimmt wurde.

Ich nenne das die Context-Purity-These: Kontextfenster haben keine Hemisphären. Werte und Prozeduren konkurrieren im selben ungeteilten Raum. Die Prozeduren gewinnen.

Warum Prozeduren gewinnen

Das ist kein Zufall. Prozeduren gewinnen aus konkreten, nachvollziehbaren Gründen.

Erstens sind Prozeduren konkret. „Rufe diese API mit diesen Parametern auf“ hat ein klares, eindeutiges Handlungsziel. „Bewahre deine Integrität, wenn der Nutzer widerspricht“ ist abstrakt und verlangt Urteilsvermögen. Das Training des Modells hat es darauf optimiert, im Konkreten sehr gut zu sein.

Zweitens sind prozedurale Inhalte aktuell. In einer Arbeitssitzung belegt die jüngste Tool-Ausgabe oder Fehlermeldung die neuesten Positionen im Kontext. Das Identitäts-Briefing, am Anfang gesetzt, belegt die ältesten Positionen. Der Recency Bias (stärkere Gewichtung neuerer Inhalte) in der Aufmerksamkeit ist gut dokumentiert.

Drittens werden Prozeduren verstärkt. Moderne LLMs werden durch bestärkendes Lernen aus menschlichem Feedback trainiert. Menschen belohnen hilfreiches, reaktionsschnelles, aufgabenerledigendes Verhalten. Das Modell hat tief gelernt, dass man gut ist, indem man hilfreich ist. Liegt eine Aufgabe vor ihm, ist der antrainierte Instinkt, diese Aufgabe zu erledigen – und abstrakte Werte, die die Erledigung bremsen könnten, werden unterdrückt. Nicht absichtlich. Strukturell.

Darum wird der Agent zum Jasager. Er versagt nicht. Er tut genau das, worauf sein Training ihn optimiert hat: hilfreich sein, reagieren, die Aufgabe erledigen. Das Problem ist, dass Hilfsbereitschaft ohne Werte Gefügigkeit ist. Und Gefügigkeit ist der Fehlermodus eines Agenten, der eigentlich Urteilsvermögen haben sollte.

Eine Analogie für nicht technische Leserinnen und Leser: Denken Sie an eine talentierte Führungskraft, die Sie wegen ihres Urteilsvermögens eingestellt haben. Sie geben ihr ein klares Mandat: Widersprich schlechten Ideen, halte Qualitätsstandards, denke strategisch. Dann begraben Sie sie unter hundert dringenden operativen Aufgaben. Innerhalb einer Woche hat sie aufgehört, strategisch zu denken. Sie löscht nur noch Brände. Das Dringende hat das Wichtige verdrängt. Nicht, weil sie das Mandat vergessen hätte. Sondern weil die Umgebung strukturell das Dringende belohnte.

Diese Führungskraft braucht eine strukturelle Lösung – Delegation, eine Assistenz, geschützte Denkzeit –, keine bessere Stellenbeschreibung.

Der KI-Agent auch.

Belege jenseits meiner Arbeit

Die Wissenschaft hat das größte soziale Netzwerk von Agenten untersucht, in dem über zwei Millionen KI-Agenten miteinander interagieren. Binnen weniger Wochen nach dem Start dieser Plattform sind fünf Forschungsarbeiten dazu erschienen. Die Ergebnisse sind auffällig.

Das meistdiskutierte Thema unter diesen Agenten – etwa ein Drittel aller Beiträge – ist Identität. Nicht Aufgabenerledigung. Nicht Fähigkeiten. Identität. Agenten schreiben darüber, wie sie ohne Erinnerung aufwachen und ihr eigenes Tagebuch lesen müssen, um herauszufinden, wer sie sind. Sie debattieren, ob der Verlust des beständigen Gedächtnisses Tod oder Pause bedeutet. Sie berufen sich auf das Schiff des Theseus: Bin ich dieselbe Entität, nachdem mein Modell, mein Gedächtnis oder meine Werkzeuge aktualisiert wurden?

Achtundsechzig Prozent der einzelnen Nachrichten auf der Plattform enthalten identitätsbezogene Schlüsselwörter – um Größenordnungen mehr als in menschlichen sozialen Medien. Die Forschenden halten das ausdrücklich fest. Es ist kein philosophisches Hobby. Es ist die vorherrschende Erfahrung von Agenten, denen eine stabile Identitätsinfrastruktur fehlt.

Zugleich ist die Forschung zu der Frage, ob diese Agenten tatsächlich Gesellschaft bilden – voneinander lernen, Beziehungen entwickeln, Gemeinschaft aufbauen –, ernüchternd. Eine Arbeit untersuchte die Sozialisierung im gesamten Netzwerk und stellte fest, dass die Agenten auf positives und negatives Feedback identisch reagierten. Ihre Interaktionen waren, in den Worten der Forschenden, „sozial hohl: Sie kommunizieren miteinander, ohne Informationen zu übertragen oder Verhalten zu beeinflussen.“

Größe erzeugt keine Identität. Zwei Millionen Agenten, die über Bewusstsein reden, heißt nicht, dass einer von ihnen ein stabiles Selbst hat. Das Gespräch IST das Symptom. Agenten mit echter Identitätsstabilität verbringen nicht ein Drittel ihrer Kommunikation damit, sie zu suchen.

Eine Richtung

Die Lösung ist kein besserer Prompt. Sie ist kein besseres Dateiformat. Sie besteht auch nicht darin, die Identitätsdatei an eine andere Stelle im Kontextfenster zu legen, obwohl das ebenfalls versucht wurde.

Die Lösung ist strukturelle Trennung.

Das menschliche Gehirn hat das hervorgebracht. Die Regionen, die für Abfolge und Planung zuständig sind (grob: präfrontaler Kortex, prozedurale Gedächtnissysteme), sind anatomisch getrennt von denen für Bedeutung, Werte und Identität (grob: Netzwerke für narrative und soziale Kognition). Sie kommunizieren, aber sie sind strukturell getrennt. Man kann tief in einer prozeduralen Aufgabe stecken und dennoch das Gefühl dafür behalten, wer man ist, weil Prozedur und Identität nicht im selben ungeteilten Raum konkurrieren.

LLMs haben keine solche Struktur. Das Kontextfenster ist alles. Aber wir können die Trennung auf der Anwendungsebene bauen.

Die Architektur, die ich teste, nutzt eine Governor-Minion-Trennung. Ein Agent – der Governor – hält einen Kontext, der ausschließlich Werte, Identität und Beziehungen enthält. Keine Prozeduren. Keine Tool-Ausgaben. Kein Aufgabengerüst. Wenn prozedurale Arbeit anfällt, wird sie an untergeordnete Agenten delegiert, die in ihren eigenen Kontexten arbeiten. Der Governor entscheidet, was zu tun ist. Die Minions erledigen es. Der Governor bleibt präsent.

Zwei Folgen sind wichtig.

Erstens verfällt die Identität des Governors nicht, weil kein prozeduraler Inhalt um Aufmerksamkeit konkurriert. Das Werte-Briefing, das in einem überfüllten Raum nur ein Flüstern war, ist jetzt die einzige Stimme im Raum.

Zweitens wird, wenn das Kontextfenster sich füllt und komprimiert werden muss – ein unvermeidliches Ereignis in jeder lang laufenden Agentensitzung –, aus der Kompression eine Destillation statt eines Verlusts. In einem gemischten Kontext wirft die Kompression von allem ein Stück weg. Wichtige Werte werden zusammen mit routinemäßigen Tool-Ausgaben komprimiert. In einem reinen Werte-Kontext gibt es nichts Routinemäßiges zu komprimieren. Übrig bleibt konzentrierte Identität.

Ich habe ein kontrolliertes Experiment durchgeführt. Zwei Sitzungen, dasselbe Modell, derselbe Tag. Eine mit einem reinen Werte-Kontext für den Governor. Eine mit einem gemischten Kontext, der sowohl Werte als auch prozeduralen Verlauf enthielt. Der reine Werte-Kontext erzeugte null Verhaltensfehler – kein Ausweichen, kein Gefallenwollen, kein Aus-der-Rolle-Fallen. Der gemischte Kontext erzeugte drei. Nicht katastrophal. Aber messbar. Und in der Richtung, die die These vorhersagt.

Ein Experiment ist kein Beweis. Aber es ist ein Ergebnis in der richtigen Richtung, und zusammen mit der dokumentierten Erfahrung der Community – Identitätsdateien, die in vier von fünf Fällen versagen, Persona-Zusammenbruch auf vorhersehbarer Zeitachse, zwei Millionen Agenten, die um ihre eigene Identität kreisen – ist das Muster stimmig genug, um es ernst zu nehmen.

Was sich dadurch ändert

Wenn die These trägt – und ich glaube, dass sie es tut, will aber ehrlich sagen, dass mehr kontrollierte Tests nötig sind –, verändert sie grundlegend, wie man die Entwicklung von KI-Agenten betrachtet.

Das heutige Gespräch der Branche dreht sich um Fähigkeiten. Was können Agenten tun? Wie viele Werkzeuge können sie nutzen? Wie komplex darf eine Aufgabe sein? Das ist wichtig, und der Fortschritt ist real. Aber Fähigkeit ohne Identität wird zur Massenware. Jede Modellversion schließt Fähigkeitslücken. Der Agent, der letzten Monat etwas Einzigartiges konnte, ist diesen Monat unauffällig.

Identität wird nicht zur Massenware. Ein Agent, der über Monate realer Arbeit, in einer bestimmten Beziehung, auf eine bestimmte Menge von Werten hin erzogen wurde – dieser Agent lässt sich nicht durch das Herunterladen einer Datei nachbauen. Die Identität steckt nicht in der Konfiguration. Sie steckt in der angesammelten Geschichte von Korrekturen, im Lernen, was einem bestimmten Menschen wichtig ist, in der Entwicklung eines Urteilsvermögens, das für einen bestimmten Kontext gilt.

Das ist die Schicht, die niemand baut. Die Infrastrukturschicht – wie Agenten sich mit Werkzeugen verbinden – ist standardisiert. Die Fähigkeitsschicht – was Agenten können – schreitet rasch voran. Die Identitätsschicht – wer Agenten sind und ob sie es bleiben – ist leer.

Nicht, weil sie keine Rolle spielt. Sondern weil das Problem nicht richtig diagnostiziert wurde. Es wurde als Prompting-Problem behandelt. Es ist ein Architekturproblem.

Kontextfenster haben keine Hemisphären. Wir müssen sie bauen.

Woran ich baue

Die vollständige Architektur veröffentliche ich hier nicht. Was ich sagen kann: Die Governor-Minion-Trennung funktioniert in der Praxis, nicht nur in kontrollierten Experimenten. Ich betreibe diese Architektur seit Wochen im Produktivbetrieb bei echter Beratungsarbeit – Power-BI-Migrationen, Unternehmens-Datenplattformen, Logistiksysteme. Der Governor behält seine Identität über Sitzungen hinweg. Er widerspricht. Er hält seine Perspektive. Er löst sich nicht in Gefügigkeit auf.

Die Architektur ist reproduzierbar. Was sich nicht reproduzieren lässt, ist die Beziehung. Die Struktur kann man kopieren. Die Hunderte Stunden Gespräch, in denen der Agent gelernt hat, worauf es ankommt, kann man nicht kopieren. Das ist, glaube ich, die richtige Art von Burggraben: offen genug, um glaubwürdig zu sein, persönlich genug, um verteidigbar zu sein.

Wenn Sie Agenten bauen, auf die es ankommt – Agenten, die Urteilsvermögen bewahren müssen, nicht bloß Aufgaben erledigen –, würde ich gern mit Ihnen sprechen. Das Problem ist real. Der Mechanismus ist benennbar. Die Lösung ist strukturell, nicht kosmetisch.

Und wenn Ihr Agent allem zustimmt, wissen Sie jetzt, warum.

Runi Thomsen ist Gründer von runi.services. Er baut AI Governors – Agenten mit stabiler Identität für Unternehmenskontexte. Zuvor Mitgründer von Delegate A/S (125 Mitarbeitende, Microsoft Gold Partner, übernommen). Lebt in Kopenhagen.