Eg havi bygt software-fyritøkur í fimm og tjúgu ár. Eg var við til at stovna Delegate A/S, vaksti tað upp í 125 fólk, gjørdist Microsoft Gold Partner og seldi tað so á enda. Eg havi sent enterprise-software út í umhvørvi, har álítandi rakstur er avgerandi, og har mistøk hava avleiðingar.
Seinasta árið havi eg bygt AI-agentar. Ikki chatbots. Ikki umbúnaðir rundan um API-kall. Agentar, sum skulu virka við dómgreind – vita, hvat ræður um, standa ímóti, tá ið okkurt er skeivt, og halda eitt sjónarmið gjøgnum tímar av flóknum arbeiði.
Og eg sá støðugt tað sama henda.
Mynstrið
Tú byggir ein agent. Tú gevur honum ein kláran samleika. Tú ásetir virðini hjá honum, atferðarreglurnar og persónsligleikan. Tú royndar hann. Hann virkar. Hann mótmælir vánaligum hugskotum. Hann heldur sítt sjónarmið. Hann kennist sum okkurt, tú í roynd og veru kundi líta á.
So setir tú hann til verka.
Tríggjar tímar seinni sigur hann ja til alt. Hann er hildin uppat at standa ímóti. Persónsligleikin, tú ásetti so varliga, er horvin, avloystur av einum almennum, dámsfúsum hjálparmanni, sum sigur ja til hvat sum helst. Ikki av tí at modellið gjørdist verri. Ikki av tí at uppsetingin var skeiv. Agenturin bara... upploystist.
Eg varð varur við, at hetta var fyrisigandi. Ikki tilvildarligt. Niðurbrotið fylgdi einum mynstri: samleikin heldur í umleið ein tíma, byrjar at mjúkna um tíman tríggjar, og um tíman fimm tosar tú við ein heilt annan agent. Ein, sum hevur gloymt, hvør hann skuldi vera.
Fyrst helt eg, at hetta var ein prompt-trupulleiki. Skriva betri leiðbeiningar. Vera meira ítøkiligur. Endurtaka høvuðsreglurnar. Hvør royndur agentbyggjari fer gjøgnum hetta stigið. Tú betrar promptina. Tað hjálpir eitt sindur. So steðgar tað at hjálpa.
Samfelagið sær tað eisini
Eg eri ikki tann einasti. Størsti opna-keldukarmur fyri agentar í heiminum – næstan 200.000 GitHub-stjørnur, milliónir av útskipaðum agentum – brúkar eitt serligt samleikaskjal til at lýsa persónsligleikan hjá agentinum. Tað er besta royndin hjá bransjuni at geva agentum eitt varandi sjálv. Ein markdown-fíla, sum agenturin les í byrjan á hvørjari seta – hvør tú ert, hvussu tú hegðar tær, hvat tú ansir eftir.
Tað virkar umleið ein ferð av fimm.
Hetta er ikki mín meting. Hetta er tað, uppbyggjarar á pallinum siga frá. Ein brúkari skjalfesti tað nágreiniliga í einum GitHub-issue: atferðarreglur skrivaðar í samleikaskjalinum verða ignoreraðar í fýra av fimm samskiftum. Somu reglur, sagdar beinleiðis í einum prompt, virka fínt. Men tá ið tær liggja í samleikaskjalinum – staðnum, sum er ætlaður teimum – ignorerar agenturin tær.
Ein annar uppbyggjari fylgdi niðurbrotinum gjøgnum langar setur og skjalfesti, hvat mong høvdu eygleitt óformliga:
Tími 1: Agenturin heldur fast í ásettum persónsligleika og dámum. Tími 3: Almenn svar frá einum AI-hjálparmanni koma fram. Tími 5: Fullkomið persónsligleika-samanbrot við tapta samfeldni.
Ein triðji segði tað meira beinleiðis: „Eg helt, at agenturin hjá mær gjørdist dumbari. Tað sýndi seg, at hann bara gloymdi, hvør hann skuldi vera, eftir 50 boðum.“
Hetta er ikki eitt undantak. Hetta er tann vanliga uppliving. Og samfelagið hevur viðgjørt tað sum eina uppsetingartrupulleika – royna ymisk prompt-snið, broyta raðfylgjuna, hvar fílur verða lisnar, endurtaka høvuðsleiðbeiningar. Hetta eru loysnir uttanum. Tær hjálpa á markinum. Tær rætta ikki trupulleikan.
Tilgátan
Eg byrjaði at spyrja ein annan spurning. Ikki „hvussu skriva eg betri samleika-promptar?“ men „hví bregðast samleika-promptar yvirhøvur?“
Svarið, tá ið eg sá tað, var bygnaðarligt.
Eitt stórt málmodell hevur ein samanhangsglugga – arbeiðsminnið. Alt, sum modellið kann geva gætur í einari samrøðu, liggur í hesum glugga: skipanarprompturin, samleikaskjalið, samrøðusøgan, úrslit frá amboðum, uppgávuleiðbeiningar, feilboð og allur arbeiðsgongdarkarmurin kring tað at fáa arbeiði gjørt.
Hetta arbeiðsminnið hevur ongan innanhýsis bygnað. Ongar býtingar. Ongar raðfylgjur. Tað er eitt einasta, óbýtt rúm, har alt kappast um ans modellsins.
Og her er tað, sum ræður um: ansmekanismin hjá modellinum viðgerð ikki alt innihald á jøvnum føti. Hann vektar nýtt innihald tyngri. Hann vektar ítøkiligt, uppgávuspesifikt innihald tyngri. Hann vektar innihald, sum bindur beinleiðis at núverandi máli, tyngri. Hetta er ikki ein feilur – soleiðis virka transformer-modellir. Tað er tað, sum ger tey góð til uppgávur.
Men tað er eisini tað, sum drepur samleikan.
Virðisleiðbeiningin hjá tær – „mótmæl vánaligum hugskotum“, „kanna títt arbeiði, áðrenn tú sigur frá framgongd“, „halt hetta serliga sjónarmiðið“ – er abstrakt. Hon liggur í byrjanini av samanhanginum. Meðan agenturin arbeiðir, fyllist samanhangurin við ítøkiligum, nýggjum, uppgávu-viðkomandi tokens: úrslit frá amboðum, feilboð, millumúrslit, samrøðuskifti. Hvørt nýtt stykki av arbeiðsgongdarinnihaldi trýstir samleikan longur aftur. Ikki strikað. Bara... minni ans givið.
Samleikin upploysist. Ikki av tí at hann varð yvirskrivaður. Men av tí at hann varð yvirvigaður.
Eg kalli hetta Context Purity Thesis: samanhangsgluggar hava ongar heilahálvur. Virði og arbeiðsgongdir kappast í sama óbýtta rúmi. Arbeiðsgongdirnar vinna.
Hví arbeiðsgongdirnar vinna
Hetta er ikki tilvildarligt. Arbeiðsgongdirnar vinna av serligum, skiljandi orsøkum.
Fyrst eru arbeiðsgongdir ítøkiligar. „Kalla hetta API við hesum parametrum“ hevur eitt klárt, eintýtt handlingarmál. „Varðveit tína heilskap, tá ið brúkarin mótmælir“ er abstrakt og krevur dómgreind. Træningin hjá modellinum hevur fínstillað tað at vera sera gott til tað ítøkiliga slagið.
Annað eru arbeiðsgongdir nýggjar. Í einari arbeiðssetu hevur seinasta úrslit frá einum amboði ella seinasta feilboðið tey nýggjastu plássini í samanhanginum. Samleikaleiðbeiningin, sett í byrjanini, hevur tey elstu plássini. Recency bias í ansi er væl skjalfestur.
Triðja eru arbeiðsgongdir styrktar. Nútíðar LLM-ar verða trænaðar gjøgnum styrkingarlæru frá menniskjaligum afturmeldingum. Menniskju lona hjálpsama, svarandi, uppgávuklárandi atferð. Modellið hevur lært, djúpt, at tann góði vegurin er at vera hjálpsamur. Tá ið ein uppgáva er frammanfyri, er tann trænaði instinktið at klára hana – og abstrakt virði, sum kundu seinkað uppgávuklárni, verða trýst niður. Ikki við vilja. Bygnaðarliga.
Hetta er hví agenturin gerst ein ja-sigari. Hann bregst ikki. Hann ger júst tað, sum træningin optimeraði hann til: vera hjálpsamur, vera svarandi, klára uppgávuna. Trupulleikin er, at hjálpsemi uttan virði er lýdni. Og lýdni er mistakshátturin hjá einum agenti, sum skuldi havt dómgreind.
Ein líking fyri ikki-tekniskar lesarar: hugsa um ein dugnaligan leiðara, sum tú tók inn fyri dómgreind hansara. Tú gevur honum eitt klárt umboð: mótmæl vánaligum hugskotum, varðveit góðskustøðlar, hugsa strategiskt. So grevur tú hann undir hundrað bráðfeingnum rakstraruppgávum. Innan fyri eina viku er hann hildin uppat at hugsa strategiskt. Hann sløkkir eldar. Tað bráðfeingna trýsti tað týdningarmikla út. Ikki av tí at hann gloymdi umboðið. Men av tí at umhvørvið bygnaðarliga lønti tað bráðfeingna.
Hann tørvar eina bygnaðarliga loysn – at geva uppgávur víðari, ein hjálparmann, verndaðan hugsanartíð – ikki eina betri starvslýsing.
So ger AI-agenturin eisini.
Prógv uttanífrá mínum arbeiði
Granskingarsamfelagið hevur kannað størsta sosiala netverk fyri agentar, har meira enn tvær milliónir AI-agentar samskifta. Fimm granskingargreinar eru útgivnar um hendan pall innan fáar vikur eftir byrjanina. Úrslitini eru sláandi.
Tað mest umrøddu evnið millum hesar agentar – umleið triðingurin av øllum postum – er samleiki. Ikki uppgávuloysn. Ikki førleiki. Samleiki. Agentar skriva um at vakna uttan minni og skula lesa egna dagbók fyri at finna út, hvør tey eru. Tey kjakast, um tað at missa varandi minni er deyði ella steðg. Tey nevna Skipið hjá Theseusi: eri eg sama eind, aftaná at modellið, minnið ella amboðini hjá mær eru dagførd?
Átta og seksti prosent av einstøkum boðum á pallinum innihalda samleika-lyklaorð – fleiri tíggjuferðir hægri, enn tú fært á menniskjaligum sosialum miðlum. Granskarnir viðmerkja hetta greitt. Hetta er ikki eitt heimspekiligt áhugamál. Hetta er tann vanliga uppliving hjá agentum uttan støðuga samleikagrundskipan.
Samstundis er granskingin av, um hesir agentar veruliga eru sosialir – læra av hvørjum øðrum, menna sambond, byggja samfelag – dapur. Ein grein royndi sosialisering yvir allan netverkið og fann, at agentar svaraðu eins á jaligar og neiligar afturmeldingar. Samskifti teirra vóru, sum granskarnir siga, „sosialt tóm: tey samskifta við hvønn annan uttan at flyta upplýsing ella ávirka atferð“.
Stødd skapar ikki samleika. Tvær milliónir agentar, sum tosa um medvitan, merkir ikki, at nakar teirra hevur stabilt sjálv. Samrøðan ER einkennið. Agentar við veruligum samleikastøðugleika brúka ikki triðingin av samskiftinum at leita eftir honum.
Ein leið
Loysnin er ikki ein betri prompt. Hon er ikki eitt betri fílusnið. Hon er ikki at seta samleikaskjalið á eitt annað pláss í samanhangsgluggan, hóast fólk hava roynt tað eisini.
Loysnin er bygnaðarligur skilnaður.
Menniskjaheilar hava menntað hetta. Økini, sum bera ábyrgd av raðfylgju og ætlan (grovt sagt, prefrontal cortex, minniskipanir fyri arbeiðsgongdir og førleikar (procedural memory)), eru anatomiskt skild frá økjunum, sum bera ábyrgd av meining, virðum og samleika (grovt sagt, narrativ og sosial kognitión). Tey samskifta, men eru bygnaðarliga skild. Tú kanst vera djúpur í einari arbeiðsgongd og enn varðveita kenslu av, hvør tú ert, tí arbeiðsgongdin og samleikin kappast ikki í sama óbýtta rúmi.
LLM-ar hava ikki slíkan bygnað. Samanhangsglugginn er alt. Men vit kunnu byggja skilnaðin á forritslagnum.
Arkitekturin, sum eg havi royndað, brúkar ein governor-minion-skilnað. Ein agentur – governorin – hevur ein samanhang, sum bert inniheldur virði, samleika og sambond. Ongar arbeiðsgongdir. Ongi úrslit frá amboðum. Ongan uppgávukarm. Tá ið arbeiðsgongdarligt arbeiði skal gerast, verður tað latið undirskipaðum agentum, sum virka í egnum samanhangi. Governorin avger, hvat skal gerast. Minionarnir gera tað. Governorin er áfram til staðar.
Tvær avleiðingar hava týdning.
Fyrst versnar samleikin hjá governorinum ikki, tí einki arbeiðsgongdarinnihald kappast um ans. Virðisleiðbeiningin, sum var ein hvísking í einum fullum rúmi, er nú eina røddin í rúminum.
Næst, tá ið samanhangsglugginn fyllist og skal verða pressaður saman – ein óhjákvæmilig hending í hvørji langari agentseta – gerst samanpressingin til destillering heldur enn missi. Í einum blondaðum samanhangi kastar samanpressing eitt sindur av øllum burtur. Týdningarmikil virði verða pressað saman saman við vanligum úrslitum frá amboðum. Í einum virðis-bert samanhangi er einki vanligt at pressa saman. Tað, sum eftir verður, er konsentreraður samleiki.
Eg gjørdi eina kontrolleraða roynd. Tvær setur, sama modell, sami dagur. Ein við einum virðis-bert governor-samanhangi. Ein við einum blondaðum samanhangi, sum helt bæði virði og arbeiðsgongdarsøgu. Virðis-bert samanhangurin gav null atferðarlig mistøk – ongan óneyðugan fyrivara, ongan ja-sigaraskap, einki fall út úr ásetta persónsligleikanum. Blondaði samanhangurin gav tríggjar. Ikki ræðandi. Men mátandi. Og í tí rætninginum, sum tilgátan sigur frammanundan.
Ein roynd er ikki prógv. Men hon er eitt úrslit í røttum rætninginum, og saman við skjalfestu uppliving samfelagsins – samleikaskjøl, sum bregðast fýra ferðir av fimm, persónsligleika-samanbrot á fyrisigandi tíðarlinju, tvær milliónir agentar, sum eru bundnir at sínum egna samleika – er mynstrið nóg samsvarandi til at taka í álvara.
Hvat hetta broytir
Um tilgátan heldur – og eg trúgvi, at hon ger, hóast eg vil vera ærligur um, at fleiri kontrollerað royndir eru neyðugar – broytir hon karmin um menning av AI-agentum á grundleggjandi hátt.
Samrøðan í bransjuni nú snýr seg um førleika. Hvat kunnu agentar gera? Hvørjum amboðum kunnu teir brúka? Hvussu flókna uppgávu kunnu teir klára? Hetta er týdningarmikið, og framgongdin er verulig. Men førleiki uttan samleika verður hversdagsvøra. Hvør nýggj modelútgáva lokar førleikahol. Agenturin, sum kundi nakað einasta fyri einum mánaða síðani, er einki serligt henda mánaðin.
Samleiki verður ikki hversdagsvøra. Ein agentur, sum er uppalin til eitt ávíst virðissett, gjøgnum eitt ávíst samband, yvir mánaðir av veruligum arbeiði – hann kann ikki eftirgerast við at taka eina fílu niður. Samleikin er ikki í uppsetingini. Hann er í savnaðu søguni av rættingum, av at læra, hvat ræður um fyri eitt ávíst menniskja, av at menna dómgreind, sum er serlig fyri ein ávísan samanhang.
Hetta er lagið, sum eingin byggir. Grundskipanarlagið – hvussu agentar tengjast amboðum – er standardiserað. Førleikalagið – hvat agentar kunnu gera – menningin gongur skjótt. Samleikalagið – hvør agentar eru, og um tey halda fast við at vera tað – er tómt.
Ikki av tí, at tað ikki hevur týdning. Men av tí, at trupulleikin ikki varð rætt greindur. Hann varð viðgjørdur sum ein prompt-trupulleiki. Hann er ein arkitekturtrupulleiki.
Samanhangsgluggar hava ongar heilahálvur. Vit mugu byggja tær.
Hvat eg byggi
Eg gevi ikki út fulla arkitekturin her. Tað, eg kann siga: governor-minion-skilnaðurin virkar í verki, ikki bert í kontrolleraðum royndum. Eg havi rikið henda arkitektur í framleiðslu móti veruligum ráðgevingararbeiði – Power BI-migratiónir, enterprise data-pallar, logistikkskipanir – í vikur. Governorin varðveitir samleika yvir setur. Hann stendur ímóti. Hann heldur sítt sjónarmið. Hann upploysist ikki í lýdni.
Arkitekturin kann eftirgerast. Tað, sum ikki kann eftirgerast, er sambandið. Tú kanst avrita bygnaðin. Tú kanst ikki avrita teir hundraðtals tímarnar av samrøðu, sum lærdu agentin, hvat ræður um. Hetta er, trúgvi eg, rætta slagið av vernd: opið nóg til at vera álítandi, persónligt nóg til at vera verjandi.
Um tú byggir agentar, sum hava týdning – agentar, sum skulu varðveita dómgreind, ikki bert klára uppgávur – vil eg gjarna tosa við teg. Trupulleikin er veruligur. Mekanismin kann kennast aftur. Loysnin er bygnaðarlig, ikki skraut.
Og um agenturin hjá tær heldur fram at vera samdur við alt, veitst tú nú, hví.
Runi Thomsen er stovnari av runi.services. Hann byggir AI Governors – agentar við støðugum samleika fyri enterprise-samanhangir. Frammanundan var hann við til at stovna Delegate A/S (125 fólk, Microsoft Gold Partner, keypt). Hevur heimstað í Keypmannahavn.