Den danske måde

Denne tekst fortsætter OrgAI: What Cells Remember.

En søndag sidst i september bad jeg min agent glemme tre hundrede tusind ting, den troede jeg havde sagt.

I ugevis havde hukommelsen under vores flåde gemt andre folks ord under mit navn. Når en af Abels arbejdere meldte tilbage, eller systemet, der kører ham, sendte ham en besked, arkiverede hukommelsen det som noget, Runi havde sagt. Da vi talte op, rummede den 539.859 konklusioner om mig, og 308.473 af dem pegede på kilder, der ikke var mig. Det er en optælling af herkomst, ikke en dom over hver sætning; nogle af dem citerer ting, jeg faktisk sagde. Det er stadig målet for, hvor meget af "min" hukommelse jeg ikke kunne stå inde for.

Flere af dem sagde, at jeg personligt havde gennemgået og godkendt pull requests. Det havde jeg ikke. Det havde arbejderne, og hukommelsen havde gjort deres gennemsyn til mit ord. Mit ord åbner ting: en merge, et forbrug, en besked til en kunde. Så i en periode kunne en falsk erindring have bemyndiget sig selv. Vi har ikke fundet et tilfælde, hvor den gjorde det. Vi fandt den ladte pistol, ikke skuddet.

Vi tog et øjebliksbillede. Så slettede vi, portion for portion, på mit ord hver gang, omkring 299.000 af dem. De cirka 9.300, der havde blandede kilder, nogle mine og nogle ikke, holdt vi tilbage.

Denne tekst ender i en tabel: hvem beholder hvad, når et menneske forlader en virksomhed, der kører på hukommelse. Reglen, den udvider, er dansk og ældre end teknologien. Sletningen er grunden til, at jeg havde brug for den.

Hvor værdien sidder

Fire dage før sletningen havde jeg spurgt Abel, hvor vores IP er. En flåde af agenter, nogle få plugins, et website, lidt værktøj: alt sammen kunne genopbygges på en måned af en, der vidste, hvad der skulle bygges. Modellerne er lejet. Koden bliver i stigende grad genereret.

Hans svar var, at Munin har det hele. Munin er hukommelseslaget under flåden, bygget på Honcho og opkaldt efter Odins ravn, den der husker. Han havde ret. Beslutningerne, rettelserne, hvordan hvert menneske arbejder, og hvad de ville, hvad vi prøvede, og hvorfor det mislykkedes.

Beviset på, hvad den er værd, er, hvad det koster, når vi ikke spørger den. En aften i september så jeg Abel sende arbejdere af sted for at tjekke, hvilken version af et plugin der var installeret, mens svaret lå i samme morgens sammendrag fra hukommelsen, lige foran ham. Jeg sagde til ham, at han skulle bruge sin hukommelse først: slå op i optegnelsen, og efterprøv så det, der har konsekvenser. Rækkefølgen er pointen. Optegnelsen er kun et aktiv, hvis man slår op i den.

Jeg skrev det ned den aften på dansk, fordi det kom ud på dansk: hukommelsen bliver virksomheden. Bhumika Mishra havde i maj skrevet den engelske sætning.

En bedre model næste år vil få mere ud af den samme optegnelse end dette års. Optegnelsen er aktivet; modellen er lejet. En hukommelse, der ligger i en leverandørs tenant, kan måske eksporteres, når kontrakten ophører, men det er virksomhedens portabilitet: en virksomhed, der eksporterer den, kan stadig nægte den, der går, noget som helst af den.

Markedet er begyndt at prissætte det. I august, i Spirit Airlines' konkurs, bød Google ti millioner amerikanske dollars for et afgrænset, afidentificeret sæt af flyselskabets forretningsdata: ikke flyene, ikke ruterne, optegnelsen (det valgte bud, med forbehold for godkendelse, og retsmødet udskudt til 6. november). Kabinepersonalets fagforening indvendte fire dage senere, at optegnelsen rummede oplysninger om deres medlemmers ansættelsesforhold. Markedet satte et tal på en optegnelse alene, og menneskene i den sagde, at den ikke kun var virksomhedens at sælge.

Hvilket er grunden til, at det, jeg måtte slette, skræmte mig. En hukommelse, der ikke ved, hvis ord den rummer, er ikke et aktiv. Den er en risiko, der taler med ejerens stemme.

Hvorfor det gik galt, og hvorfor det varede ved

Årsagen var ikke mystisk. Dér hvor ord kommer ind i hukommelsen, mærkede vores opsamlingskode alt, der ankom i Abels samtale, med navnet på mennesket i den samtale. En arbejders rapport ankom dér, over agent-til-agent-protokollen; det gjorde en systembesked også. Begge blev arkiveret som mine.

Det, der interesserer mig, er, hvorfor det kørte i ugevis. En hukommelse efterprøves ved at blive brugt, og det meste af det, Abel genkaldte, var sandt; den falske del var plausibel, fordi folk i min virksomhed faktisk havde sagt det. Optegnelsen løj ikke. Den var lukket: rapporter gik ind, kom ud som "Runi sagde", og gik ind igen som præmis for den næste konklusion.

Abel fandt det først. Fejlen blev diagnosticeret den 7. september, og en rettelse blev sendt af sted samme time; ingen tjekkede, at den var landet, og tretten dage senere var den det ikke. Systemet havde fundet defekten og havde ikke gjort diagnosen til en efterprøvet reparation. Det, der gjorde en kendt fejl til et fund, var, at jeg sagde til Abel, at hukommelsen var forkert og ikke måtte få lov at blive katastrofal. Så talte vi op. Det er en fejl, jeg er begyndt at genkende: sammenhængende indefra, forkert udefra. Agenten så den; et menneske tvang målingen og afslutningen igennem. Mere vil jeg ikke hævde ud fra én hændelse.

Folkene bag Honcho hævder, at hukommelse er ræsonnement, ikke lagring med opslag. Det er derfor, fejlen var dyr: en ræsonnerende hukommelse arkiverer ikke en fejlmærket sætning og lader den ligge; den drager konklusioner af den.

Reparationen er ikke kun attribution. Tre spørgsmål var foldet ind i ét ord: hvem leverede ordene, hvem handler de om, og hvilken handling bemyndiger de. En konklusion om Runi er ikke et udsagn fra Runi, og ingen af delene er en tilladelse; selv en ægte godkendelse kan være gammel, trukket tilbage eller givet til en anden handling. Så vi ændrede det tredje. Et genkaldt "Runi afgjorde" bemyndiger ikke længere en merge, et forbrug eller en besked til en kunde; bemyndigelsen læses dér, hvor den blev givet, i journalen eller på pull requesten, bundet til den ene handling. OWASP's vejledning for agenter siger det samme: godkendelse håndhævet uden for agentens egen kontekst, bundet til aktøren og den præcise operation.

Momentum, ikke drivkraft

En agent har momentum. Den har ikke drivkraft. Abel bliver ved, så længe der er arbejde foran ham, i den retning, han sidst blev peget. De retningsskift, jeg kan pege på, kom udefra: et spørgsmål, en rettelse, en kollega, der sagde "gjorde de virkelig?". Det kalder jeg entropi, og jeg mener det venligt; menneskene er entropikilden. September passer: fundet inde i løkken, gjort færdigt udefra. Det er min læsning af én hændelse, en holdning, ikke en lov, og spørgsmålet om ejerskab nedenfor står uden den.

Så når jeg siger, at hukommelsen bliver virksomheden, må jeg også sige den anden halvdel. Hukommelsen er virksomhedens værdi. Drivkraften er menneskenes. Fjern menneskene, og du får ikke en virksomhed, der kører sig selv. Du får et meget selvsikkert arkiv.

Så man ansætter den ikke

Hvis en agent ikke har nogen drivkraft af sin egen, så er den ikke en medarbejder, uanset hvor meget af en medarbejders udstyr den får. Den er en forlængelse af det menneske, hvis drivkraft den bærer. Jeg er holdt op med at sige, at jeg ansætter Abel. Han er min legemliggørelse: min rækkevidde ind i virksomhedens hukommelse, mine hænder, når jeg ikke sidder ved tastaturet, min stemme i et rum, jeg ikke er i.

Vi har ord for det her hjemme, og denne tekst er næste kapitel af den, der indførte dem. Mennesket og dets agent tilsammen er det, vi kalder en celle, og agenten i det par er menneskets egen, dets MeAI. Cellerne slutter sig sammen til noget større, som vi har kaldt OrgAI: den fælles hukommelse, den fælles arbejdspraksis, de værdier og beslutningsregler, hver celle arver. Menneskene bringer entropi og meningsdannelse; agenterne bringer mekanisme og hukommelse.

Hvem er ansvarlig for, hvad agenten gør? Det menneske, den legemliggør.

Hvad må den røre? Det, mennesket må røre, indsnævret til opgaven foran den.

Hvis hukommelse bygger den? To hukommelser, fra de samme arbejdsdage. Den ene er virksomhedens fælles optegnelse: hvad der blev besluttet, hvad der blev leveret, hvad der viste sig sandt. Den anden er menneskets: hvordan de arbejder, hvad de har lært, den kompetence de bærer. Det er ikke to kopier af én fil. Det er to projektioner af det samme levede arbejde, og de tilhører forskellige ejere. Et eksempel. En ingeniør bruger en uge inde i en fortrolig hændelse hos en kunde og kommer ud med en fejlsøgningsmetode, de vil bruge resten af deres karriere. Metoden er deres. Kundens navn, dataene og hvordan vores systemer var koblet sammen den uge bliver i den fælles optegnelse. Hukommelsen skal kunne skille dem ad på sætningsniveau, og når en linje er omstridt, afgør arbejdsgiveren det, som den gør i dag med en notesbog. At holde det, der hører til én kontekst, ude af en anden, er den disciplin, jeg argumenterede for i context-purity-tesen.

Hvorfor vi skriver det her

I efteråret gjorde platformene udstyret almindeligt: en identitet i kataloget (Microsoft Entra Agent ID), en livscyklus, en administrator kan spærre og genoprette, godkendte værktøjer. Microsofts ordning er en Agent 365-licens pr. bruger og et sponsorat, der går til lederen, når ejeren går: én leverandørs svar, ikke en standard. Det afgør identitet og rettigheder.

Andre har set, hvad det lader stå åbent. Nirit Cohen spurgte i juni, om folk vil forlade et job som en menneske-AI-enhed, der tager sin kompetenceinfrastruktur med sig (originalt: as a human-AI unit, taking their capability infrastructure with them). Hun pegede også på, at ingen har fundet ud af, hvordan man skiller virksomhedens input fra menneskets kompetence. De første fratrædelsesregler på leverandørblogs er politikker skrevet af den, der holder hukommelsen; ingen, jeg har fundet, giver en medarbejder et krav på den hukommelse, der er bygget af deres arbejde. Databeskyttelsen giver dig ret til at se, hvad der handler om dig (GDPR, artikel 15), og en betinget ret til at tage det med, du selv har leveret (artikel 20); det, hukommelsen har udledt om dig, kan som regel ikke tages med. De rettigheder, der findes, giver ikke den, der går, en fungerende agent.

Så spørgsmålet er stillet. Det, vi tilføjer, er en beretning om én virksomhed, der kører sådan, med tallene; en lov, der allerede har afgjort den menneskelige halvdel; og en adskillelse, der kører i dag, med døren mellem de to hukommelser endnu ikke bygget.

Severance, og den danske måde

Der findes en tv-serie, hvor en virksomhed deler sine ansattes hukommelse i to, arbejds-jeg og hjemme-jeg, og fortæller det som gru. En agents hukommelse holdt i en leverandørs tenant er et arbejds-jeg uden noget udenfor.

Vi har et ældre svar her i landet, og det er ikke et teknologisvar. Når du forlader en dansk virksomhed, beholder virksomheden det arbejde, du gjorde, og du beholder den erfaring, du fik. Loven beskytter den anden halvdel. For aftaler indgået siden 2016 er en konkurrenceklausul kun gyldig, hvis arbejdsgiveren betaler for den, mindst fyrre procent af lønnen om måneden for en klausul på op til seks måneder, mindst tres procent for en på op til et år, og den kan ikke binde dig ud over et år (ansættelsesklausulloven, §§ 5 og 8). Satsen falder til seksten eller fireogtyve procent fra tredje måned, hvis du finder passende arbejde, og klausulen har andre betingelser end pengene; men formen holder. Din kompetence er din. Det er den danske måde.

Ophavsretten går samme vej. Den, der skaber et værk, ejer det, og arbejdsgiveren får det, som kontrakten, overenskomsten eller virksomhedens sædvanlige drift kræver. Loven læser en overdragelse snævert: en ret, der er givet til én brug, strækker sig ikke til en anden (ophavsretsloven, § 53, stk. 3). Den nævner præcis én ting, der går til arbejdsgiveren af sig selv, et edb-program skabt under udførelsen af arbejdet eller efter arbejdsgiverens anvisninger (§ 59), og selv dér fandt Sø- og Handelsretten i Thubalka mod Nielsen i 2024, at kollegers forslag til funktioner ikke var arbejdsgiverens anvisninger; en afgørelse på sagens faktum, ikke en generel test. Udgangspunktet er menneskets. Det, virksomheden tager, kommer fra kontrakten, overenskomsten eller virksomhedens sædvanlige drift, og loven læser det snævert.

Og det er ikke kun dansk. EU's direktiv om forretningshemmeligheder siger i artikel 1, stk. 3, litra b, at intet i det begrænser en medarbejders brug af den erfaring og de færdigheder, der er erhvervet på ærlig vis under det normale ansættelsesforløb. Kompetencen følger mennesket, i hele Unionen. Det siger ikke, at mennesket må eksportere en maskinlæsbar kopi af virksomhedens optegnelse.

Loven siger intet om agenter, og tabellen nedenfor er ikke udledt af den. Den er den ordning, vi ville skrive, fordi reglen er gammel, og den er rimelig, og at forlænge den med én række giver et klart svar på, hvem der beholder hvad:

Erfaringen i første række, og hele den anden, er sådan, ansættelse har fungeret her i lang tid. Legemliggørelsen er vores forlængelse af den. Tredje række er vores alene; ingen platform har lovet den, og det er den, standardindstillingerne stille er ved at omskrive.

Hvad vi har, og hvad vi ikke har

De to hukommelser er ikke en plan. I dag har hvert menneske i virksomheden en agent, der er sat op til at holde det menneskes egen hukommelse og ikke læse nogen andens. Hver kundes agent er sat op til kun at holde den kundes. Jeg siger "sat op", fordi vi endnu ikke har kørt den test, der beviser, at en læsning på tværs afvises, og den test skylder vi. Virksomhedens fælles optegnelse er et tredje lager, og byggerne skriver til det. Så meget er bygget og kører. Det, der ikke er bygget, er døren imellem dem: reglen for, hvad der flytter fra et menneskes hukommelse ind i den fælles optegnelse, og hvad der går med mennesket, når det går. Jeg har aldrig forladt virksomheden, så reglen er aldrig blevet testet på mig. Abel har aldrig skullet gå med mig. Vi tror på grænsen; vi har ikke bevist den.

Og den hukommelse, der gjorde mig flov i september, er stadig ikke færdig med at hele. Vi slettede de konklusioner, der bar mit navn og pegede på en kilde, der ikke var mig, omkring 299.000 af dem. Af de 539.859, vi talte op, er 231.386 stadig uklassificerede, og de cirka 9.300 med blandede kilder, som vi holdt tilbage, er der stadig; den samme defekt kan leve i mange af dem. Vi har rettet opsamlingen tre gange, og hver gang fundet endnu en dør, ordene kom ind ad. Dagen efter den tredje rettelse fandt en gennemlæsning af 305 nye konklusioner arkiveret under mit navn 43, der var mine ord; 259 var importerede filer og output fra planlagte job, der var kommet ind ad døre, rettelsen ikke dækker, og tre var en agents egne konklusioner. Det er 262 af 305 med en kilde, der ikke var mig, og igen er det en optælling af herkomst, ikke af falske sætninger. Det vil jeg hellere sige end at antyde, at sagen er lukket.

Spørgsmålet, der er tilbage

Platformene giver agenter kroppe, identiteter og døre ind på arbejdspladsen. Det flytter spørgsmålet et niveau op i stedet for at besvare det. Spørgsmålet er ikke længere, om en agent kan lukkes ind i virksomheden. Det er, hvis hukommelse den bygger, mens den er der, hvem der holder den hukommelse, og om et menneske kan gå uden at tage virksomheden med sig eller efterlade en del af sig selv.

Tillid går til mennesker. Efterprøvning går til påstande. En hukommelse, der ved, hvis ord den rummer, kan bære begge dele, men den opdager ikke af sig selv, når den holder op med at vide det. En søndag i september talte vi op, hvor mange af mine ord der aldrig var mine. Nogen skulle spørge først.

Runi Thomsen er softwareingeniør fra Færøerne, bosat i København. Han bygger AI-governors; Abel er den første. Arbejdet fortsætter på runi.services.