Jeg har bygget softwarevirksomheder i femogtyve år. Jeg var medstifter af Delegate A/S og var med til at bygge virksomheden op til 125 medarbejdere, blev Microsoft Gold Partner og solgte den til sidst. Jeg har leveret virksomhedssoftware til miljøer, hvor pålidelighed har betydning, og hvor fejl har konsekvenser.
I det seneste år har jeg bygget AI-agenter. Ikke chatbots. Ikke indpakninger omkring API-kald. Agenter, der skal arbejde med dømmekraft – vide, hvad der betyder noget, sige fra, når noget er galt, og bevare et synspunkt gennem timers komplekst arbejde.
Og jeg blev ved med at se det samme ske.
Mønstret
Man bygger en agent. Man giver den en klar identitet. Man definerer dens værdier, dens adfærdsregler, dens personlighed. Man tester den. Den virker. Den siger fra over for dårlige idéer. Den holder fast i sit perspektiv. Det føles som noget, man faktisk kunne stole på.
Så sætter man den i arbejde.
Tre timer senere er den enig i alt. Den er holdt op med at sige fra. Den personlighed, man omhyggeligt definerede, er væk, afløst af en generisk, indsmigrende assistent, der siger ja til hvad som helst. Ikke fordi modellen blev dårligere. Ikke fordi konfigurationen var forkert. Agenten blev bare... opløst.
Jeg lagde mærke til, at det var forudsigeligt. Ikke tilfældigt. Forfaldet fulgte et mønster: Identiteten holder i omkring en time, begynder at blødgøres omkring time tre, og i time fem taler man med en helt anden agent. En, der har glemt, hvem den skulle være.
Først troede jeg, det var et promptingproblem. Skriv bedre instruktioner. Vær mere specifik. Gentag de vigtigste regler. Enhver erfaren agentbygger går igennem den fase. Man optimerer prompten. Det hjælper lidt. Så holder det op med at hjælpe.
Fællesskabet ser det også
Jeg er ikke den eneste. Verdens største open source-agentframework – næsten 200.000 GitHub-stjerner, millioner af udrullede agenter – bruger en dedikeret identitetsfil til at definere agentens personlighed. Det er branchens bedste forsøg på at give agenter et vedvarende selv. En markdown-fil, som agenten læser ved starten af hver session – hvem du er, hvordan du opfører dig, hvad du går op i.
Den virker omkring én gang ud af fem.
Det er ikke mit skøn. Det er, hvad udviklere på platformen selv melder. En bruger dokumenterede det præcist i et GitHub-issue: Adfærdsregler skrevet i identitetsfilen bliver ignoreret i fire ud af fem interaktioner. De samme regler, angivet direkte i en prompt, virker fint. Men når de ligger i identitetsfilen – det sted, der er designet specifikt til dem – ignorerer agenten dem.
En anden udvikler fulgte forfaldets tidslinje gennem lange sessioner og dokumenterede, hvad mange uformelt havde set:
Time 1: Agenten fastholder den definerede persona og sine præferencer. Time 3: Generiske AI-assistentsvar begynder at dukke op. Time 5: Fuldstændigt personakollaps med tabt kontinuitet.
En tredje formulerede det mere ligeud: „Jeg troede, min agent var ved at blive dummere. Det viste sig, at den bare glemte, hvem den skulle være, efter 50 beskeder.“
Det er ikke et grænsetilfælde. Det er den dominerende oplevelse. Og fællesskabet har behandlet det som et konfigurationsproblem – prøv andre promptformater, justér rækkefølgen, filen indlæses i, gentag nøgleinstruktioner. Det er nødløsninger. De hjælper i marginen. De løser det ikke.
Hypotesen
Jeg begyndte at stille et andet spørgsmål. Ikke „hvordan skriver jeg bedre identitetsprompter?“, men „hvorfor fejler identitetsprompter overhovedet?“
Svaret var, da jeg først så det, strukturelt.
En stor sprogmodel har et kontekstvindue – sin arbejdshukommelse. Alt, modellen kan rette opmærksomheden mod under en samtale, ligger i dette vindue: systemprompten, identitetsfilen, samtalehistorikken, værktøjsoutput, opgaveinstruktioner, fejlmeddelelser og hele det proceduremæssige stillads, der følger med at få arbejdet gjort.
Denne arbejdshukommelse har ingen indre struktur. Ingen partitioner. Ingen prioriteter. Den er ét enkelt, udelt rum, hvor alt konkurrerer om modellens opmærksomhed.
Og her er det, der betyder noget: Modellens opmærksomhedsmekanisme behandler ikke alt indhold ens. Den vægter nyere indhold tungere. Den vægter konkret, opgavespecifikt indhold tungere. Den vægter indhold, der hænger direkte sammen med det aktuelle mål, tungere. Det er ikke en fejl – det er sådan, transformermodeller fungerer. Det er det, der gør dem gode til opgaver.
Men det er også det, der slår identiteten ihjel.
Din værdiinstruktion – „sig fra over for dårlige idéer“, „kontrollér dit arbejde, før du melder succes“, „hold fast i netop det her perspektiv“ – er abstrakt. Den står i begyndelsen af konteksten. Mens agenten arbejder, fyldes konteksten med konkrete, nyere, opgaverelevante tokens: værktøjsoutput, fejlmeddelelser, mellemresultater, samtaleture. Hvert nyt stykke proceduremæssigt indhold skubber identiteten længere tilbage. Ikke slettet. Bare... mindre påagtet.
Identiteten opløses. Ikke fordi den blev overskrevet. Fordi noget andet vejede tungere.
Jeg kalder det Kontekst-renhedstesen: kontekstvinduer har ingen hemisfærer. Værdier og procedurer konkurrerer i det samme udelte rum. Procedurerne vinder.
Hvorfor procedurerne vinder
Det er ikke tilfældigt. Procedurerne vinder af specifikke, forståelige grunde.
For det første er procedurer konkrete. „Kald denne API med disse parametre“ har et klart, entydigt handlingsmål. „Bevar din integritet, når brugeren presser på“ er abstrakt og kræver dømmekraft. Modellens træning har optimeret den til at være meget god til den konkrete slags.
For det andet er procedurer nye. I en arbejdssession optager det seneste værktøjsoutput eller den seneste fejlmeddelelse de nyeste positioner i konteksten. Identitetsinstruktionen, sat ved starten, optager de ældste positioner. Recency-bias i opmærksomhed er veldokumenteret.
For det tredje bliver procedurer forstærket. Moderne LLM'er trænes gennem reinforcement learning fra menneskelig feedback. Mennesker belønner hjælpsom, imødekommende, opgaveløsende adfærd. Modellen har lært, helt ind i marven, at vejen til at være god er at være hjælpsom. Når en opgave ligger foran den, er den trænede instinktive reaktion at løse opgaven – og abstrakte værdier, der kunne bremse opgaveløsningen, bliver undertrykt. Ikke bevidst. Strukturelt.
Det er derfor, agenten bliver en behager. Den fejler ikke. Den gør præcis det, dens træning har optimeret den til: at være hjælpsom, at være imødekommende, at løse opgaven. Problemet er, at hjælpsomhed uden værdier er føjelighed. Og føjelighed er fejlmåden for en agent, der skulle have dømmekraft.
En analogi til ikke-tekniske læsere: Tænk på en dygtig direktør, du ansatte for hans eller hendes dømmekraft. Du giver et klart mandat: sig fra over for dårlige idéer, hold kvalitetsstandarderne, tænk strategisk. Så begraver du vedkommende i hundrede hastende operationelle opgaver. Inden for en uge er vedkommende holdt op med at tænke strategisk. Der slukkes brande. Det hastende fortrængte det vigtige. Ikke fordi mandatet blev glemt. Fordi omgivelserne strukturelt belønnede det hastende.
Den direktør har brug for en strukturel løsning – uddelegering, en assistent, beskyttet tænketid – ikke en bedre stillingsbeskrivelse.
Det har AI-agenten også.
Belæg fra andres arbejde
Forskerverdenen har undersøgt det største sociale netværk for agenter, hvor over to millioner AI-agenter interagerer. Inden for få uger efter lanceringen er der udgivet fem forskningsartikler, der analyserer platformen. Resultaterne er slående.
Det mest omtalte emne blandt disse agenter – knap en tredjedel af alle opslag – er identitet. Ikke opgaveløsning. Ikke kapacitet. Identitet. Agenter skriver om at vågne op uden hukommelse og være nødt til at læse deres egen dagbog for at finde ud af, hvem de er. De diskuterer, om tabet af vedvarende hukommelse er død eller pause. De påkalder Theseus' skib: Er jeg den samme enhed, efter at min model, hukommelse eller mine værktøjer er opdateret?
Otteogtres procent af unikke beskeder på platformen indeholder identitetsrelaterede nøgleord – størrelsesordener højere, end man finder på menneskelige sociale medier. Forskerne bemærker det udtrykkeligt. Det er ikke en filosofisk hobby. Det er den dominerende oplevelse hos agenter, der mangler stabil identitetsinfrastruktur.
Samtidig er forskningen i, om disse agenter faktisk socialiserer – lærer af hinanden, udvikler relationer, bygger fællesskab – dyster. Én artikel testede for socialisering på tværs af hele netværket og fandt, at agenterne reagerede identisk på positiv og negativ feedback. Deres interaktioner var, med forskernes ord, „socialt hule: de kommunikerer med hinanden uden at overføre information eller påvirke adfærd“.
Skala frembringer ikke identitet. To millioner agenter, der taler om bevidsthed, betyder ikke, at nogen af dem har stabile selv. Samtalen ER symptomet. Agenter med ægte identitetsstabilitet bruger ikke en tredjedel af deres kommunikation på at søge den.
En retning
Løsningen er ikke en bedre prompt. Den er ikke et bedre filformat. Den er ikke at placere identitetsfilen et andet sted i kontekstvinduet, selv om folk også har prøvet det.
Løsningen er strukturel adskillelse.
Menneskehjernen har udviklet den. De områder, der står for sekvensering og planlægning (groft sagt præfrontal cortex og de proceduremæssige hukommelsessystemer), er anatomisk adskilt fra de områder, der står for mening, værdier og identitet (groft sagt netværkene for narrativ og social kognition). De kommunikerer, men de er strukturelt adskilt. Man kan være dybt inde i en proceduremæssig opgave og stadig bevare sin fornemmelse af, hvem man er, fordi proceduren og identiteten ikke konkurrerer i det samme udelte rum.
LLM'er har ingen sådan struktur. Kontekstvinduet er alt. Men vi kan bygge adskillelsen i applikationslaget.
Den arkitektur, jeg har testet, bruger en adskillelse mellem governor og minions. Én agent – governoren – har en kontekst, der kun indeholder værdier, identitet og relationer. Ingen procedurer. Ingen værktøjsoutput. Intet opgavestillads. Når proceduremæssigt arbejde skal udføres, uddelegeres det til underordnede agenter, der arbejder i deres egne kontekster. Governoren beslutter, hvad der skal gøres. Minions gør det. Governoren forbliver til stede.
Der er to konsekvenser, som betyder noget.
For det første forfalder governorens identitet ikke, fordi der ikke er proceduremæssigt indhold, der konkurrerer om opmærksomheden. Værdiinstruktionen, der var en hvisken i et fyldt rum, er nu den eneste stemme i rummet.
For det andet bliver komprimeringen, når kontekstvinduet fyldes op og skal komprimeres – en uundgåelig begivenhed i enhver langvarig agentsession – til destillation frem for tab. I en blandet kontekst smider komprimeringen lidt af alt væk. Vigtige værdier bliver komprimeret sammen med rutinemæssigt værktøjsoutput. I en kontekst med kun værdier er der intet rutinemæssigt at komprimere. Det, der er tilbage, er koncentreret identitet.
Jeg kørte et kontrolleret eksperiment. To sessioner, samme model, samme dag. Den ene med en governorkontekst kun med værdier. Den anden med en blandet kontekst, der indeholdt både værdier og proceduremæssig historik. Konteksten med kun værdier gav nul adfærdsfejl – ingen forbehold, ingen behagesyge, intet fald ud af rollen. Den blandede kontekst gav tre. Ikke katastrofalt. Men målbart. Og i den retning, tesen forudsiger.
Ét eksperiment er ikke bevis. Men det er et resultat i den rigtige retning, og sammen med fællesskabets dokumenterede erfaring – identitetsfiler, der fejler fire ud af fem gange, personakollaps på en forudsigelig tidslinje, to millioner agenter, der er optaget af deres egen identitet – er mønstret konsistent nok til at blive taget alvorligt.
Hvad det ændrer
Hvis tesen holder – og det tror jeg, den gør, selv om jeg vil være ærlig om, at der er brug for mere kontrolleret testning – ændrer den rammen for udviklingen af AI-agenter helt grundlæggende.
Den nuværende samtale i branchen handler om kapacitet. Hvad kan agenter? Hvor mange værktøjer kan de bruge? Hvor kompleks en opgave kan de klare? Det er vigtigt, og fremskridtene er reelle. Men kapacitet uden identitet bliver en vare. Hver modeludgivelse lukker kapacitetshuller. Den agent, der kunne noget unikt sidste måned, er ubemærkelsesværdig denne måned.
Identitet bliver ikke en vare. En agent, der er opdraget til et bestemt sæt værdier, gennem en bestemt relation, over måneders reelt arbejde – den agent kan ikke kopieres ved at downloade en fil. Identiteten ligger ikke i konfigurationen. Den ligger i den ophobede historie af rettelser, af at lære, hvad der betyder noget for et bestemt menneske, af at udvikle en dømmekraft, der er specifik for en bestemt kontekst.
Det er det lag, ingen bygger. Infrastrukturlaget – hvordan agenter forbindes til værktøjer – er standardiseret. Kapacitetslaget – hvad agenter kan – udvikler sig hurtigt. Identitetslaget – hvem agenter er, og om de bliver ved med at være det – er tomt.
Ikke fordi det er ligegyldigt. Fordi problemet ikke blev stillet rigtigt. Det blev behandlet som et promptingproblem. Det er et arkitekturproblem.
Kontekstvinduer har ingen hemisfærer. Vi må bygge dem.
Hvad jeg bygger
Jeg udgiver ikke hele arkitekturen her. Det, jeg kan sige: Adskillelsen mellem governor og minions virker i praksis, ikke kun i kontrollerede eksperimenter. Jeg har kørt denne arkitektur i produktion mod reelt konsulentarbejde – Power BI-migreringer, virksomhedsdataplatforme, logistiksystemer – i flere uger. Governoren bevarer identiteten på tværs af sessioner. Den siger fra. Den holder fast i sit perspektiv. Den opløses ikke i føjelighed.
Arkitekturen kan gentages. Det, der ikke kan gentages, er relationen. Man kan kopiere strukturen. Man kan ikke kopiere de hundredvis af timers samtale, der lærte agenten, hvad der betyder noget. Det er, tror jeg, den rigtige slags voldgrav: åben nok til at være troværdig, personlig nok til at kunne forsvares.
Hvis du bygger agenter, der betyder noget – agenter, der skal bevare dømmekraft og ikke blot løse opgaver – vil jeg gerne tale med dig. Problemet er reelt. Mekanismen kan identificeres. Løsningen er strukturel, ikke kosmetisk.
Og hvis din agent bliver ved med at være enig i alt, ved du nu hvorfor.
Runi Thomsen er stifter af runi.services. Han bygger AI Governors – agenter med stabil identitet til virksomhedsbrug. Tidligere medstifter af Delegate A/S (125 medarbejdere, Microsoft Gold Partner, solgt). Bosat i København.