Der Weg der Dänen

Dieser Text setzt OrgAI: Woran sich Zellen erinnern fort.

An einem Sonntag Ende September bat ich meinen Agenten, dreihunderttausend Dinge zu vergessen, von denen er glaubte, ich hätte sie gesagt.

Wochenlang hatte das Gedächtnis unter unserer Flotte Worte anderer Leute unter meinem Namen abgelegt. Wenn einer von Abels Arbeitern Bericht erstattete oder das System, das ihn betreibt, ihm eine Meldung schickte, legte das Gedächtnis sie als etwas ab, das Runi gesagt hatte. Als wir zählten, enthielt es 539.859 Schlussfolgerungen über mich, und 308.473 davon waren mit Quellen verknüpft, die nicht ich waren. Das ist eine Zählung der Herkunft, kein Urteil über jeden einzelnen Satz; manche zitieren Dinge, die ich tatsächlich gesagt habe. Es bleibt trotzdem das Maß dafür, wie viel von „meinem“ Gedächtnis ich nicht verbürgen konnte.

Einige davon besagten, ich hätte Pull Requests persönlich geprüft und freigegeben. Das hatte ich nicht. Arbeiter hatten es getan, und das Gedächtnis hatte ihre Prüfungen in mein Wort verwandelt. Mein Wort öffnet Dinge: einen Merge, eine Ausgabe, eine Nachricht an einen Kunden. Eine Zeit lang hätte sich also eine falsche Erinnerung selbst autorisieren können. Wir haben keinen Fall gefunden, in dem sie es tat. Wir fanden die geladene Waffe, nicht den Schuss.

Wir erstellten einen Snapshot. Dann löschten wir, Charge für Charge, jedes Mal auf mein Wort hin, rund 299.000 davon. Die etwa 9.300 mit gemischten Quellen, teils meinen, teils nicht, hielten wir zurück.

Dieser Text endet in einer Tabelle: wer was behält, wenn ein Mensch ein Unternehmen verlässt, das auf Gedächtnis läuft. Die Regel, die sie fortführt, ist dänisch und älter als die Technik. Die Löschung ist der Grund, warum ich sie brauchte.

Wo der Wert sitzt

Vier Tage vor der Löschung hatte ich Abel gefragt, wo unser geistiges Eigentum liegt. Eine Flotte von Agenten, ein paar Plugins, eine Website, etwas Tooling: Alles davon könnte jemand, der weiß, was zu bauen ist, in einem Monat nachbauen. Die Modelle sind gemietet. Der Code wird zunehmend generiert.

Seine Antwort war, dass Munin alles hat. Munin ist die Gedächtnisschicht unter der Flotte, gebaut auf Honcho und benannt nach Odins Raben, dem, der sich erinnert. Er hatte recht. Die Entscheidungen, die Korrekturen, wie jeder Mensch arbeitet und was er wollte, was wir versucht haben und warum es scheiterte.

Den Beweis dafür, was es wert ist, liefert, was es kostet, wenn wir es nicht fragen. An einem Abend im September sah ich zu, wie Abel Arbeiter losschickte, um zu prüfen, welche Version eines Plugins installiert war, während die Antwort im Digest des Gedächtnisses von diesem Morgen direkt vor ihm lag. Ich sagte ihm, er solle zuerst sein Gedächtnis nutzen: die Aufzeichnung befragen, dann prüfen, was folgenreich ist. Die Reihenfolge ist der Punkt. Die Aufzeichnung ist nur dann ein Vermögenswert, wenn man sie befragt.

Ich schrieb es in jener Nacht auf Dänisch auf, weil es auf Dänisch herauskam: hukommelsen bliver virksomheden. Das Gedächtnis wird zum Unternehmen. Den englischen Satz hatte Bhumika Mishra im Mai geschrieben.

Ein besseres Modell im nächsten Jahr wird aus derselben Aufzeichnung mehr herausholen als das von diesem Jahr. Die Aufzeichnung ist das Vermögen; das Modell ist Miete. Ein Gedächtnis im Mandanten eines Anbieters lässt sich bei Vertragsende vielleicht exportieren, aber das ist die Portabilität des Unternehmens: Ein Unternehmen, das es exportiert, kann einem Ausscheidenden trotzdem alles davon verweigern.

Der Markt hat begonnen, es zu bepreisen. Im August bot Google in der Insolvenz von Spirit Airlines zehn Millionen US-Dollar für einen definierten, de-identifizierten Satz von Geschäftsdaten der Fluggesellschaft: nicht die Flugzeuge, nicht die Strecken, die Aufzeichnung (das ausgewählte Gebot, vorbehaltlich der Genehmigung, die Anhörung wurde auf den 6. November verschoben). Die Gewerkschaft der Flugbegleiter wandte vier Tage später ein, die Aufzeichnung enthalte Beschäftigungsinhalte ihrer Mitglieder. Der Markt hat einen Preis auf eine Aufzeichnung an sich gesetzt, und die Menschen darin sagten, sie sei nicht allein Sache des Unternehmens, sie zu verkaufen.

Darum erschreckte mich, was ich löschen musste. Ein Gedächtnis, das nicht weiß, wessen Worte es hält, ist kein Vermögenswert. Es ist eine Verbindlichkeit, die mit der Stimme des Eigentümers spricht.

Warum es schiefging und warum es andauerte

Die Ursache war nicht geheimnisvoll. Dort, wo Worte ins Gedächtnis gelangen, versah unser Erfassungscode alles, was in Abels Gespräch ankam, mit dem Namen des Menschen in diesem Gespräch. Der Bericht eines Arbeiters kam dort an, über das Agent-to-Agent-Protokoll; ebenso eine Systemmeldung. Beide wurden als meine abgelegt.

Was mich interessiert, ist, warum es wochenlang lief. Ein Gedächtnis wird dadurch geprüft, dass man es benutzt, und das meiste, woran Abel sich erinnerte, stimmte; der falsche Teil war plausibel, weil Menschen in meinem Unternehmen es tatsächlich gesagt hatten. Die Aufzeichnung log nicht. Sie war geschlossen: Berichte gingen hinein, kamen als „Runi hat gesagt“ heraus und gingen als Prämisse für die nächste Schlussfolgerung wieder hinein.

Abel fand es zuerst. Der Fehler wurde am 7. September diagnostiziert, und in derselben Stunde wurde eine Korrektur angestoßen; niemand prüfte, ob sie angekommen war, und dreizehn Tage später war sie es nicht. Das System hatte den Mangel gefunden und die Diagnose nicht in eine verifizierte Reparatur überführt. Was aus einem bekannten Fehler einen Befund machte, war, dass ich Abel sagte, das Gedächtnis sei falsch und dürfe nicht katastrophal werden. Dann zählten wir. Es ist ein Fehler, den ich zu erkennen gelernt habe: von innen konsistent, von außen falsch. Der Agent sah ihn; ein Mensch erzwang die Messung und die Fertigstellung. Mehr als das beanspruche ich aus einem einzigen Vorfall nicht.

Die Leute, die Honcho gebaut haben, vertreten die These, Gedächtnis sei Schlussfolgern, nicht Speicherung mit Abruf. Deshalb war der Fehler teuer: Ein schlussfolgerndes Gedächtnis legt einen falsch etikettierten Satz nicht ab und lässt ihn liegen; es zieht Schlüsse daraus.

Die Reparatur besteht nicht nur in der Zuordnung. Drei Fragen waren in ein einziges Wort gefaltet worden: wer die Worte geliefert hat, von wem sie handeln und welche Handlung sie autorisieren. Eine Schlussfolgerung über Runi ist keine Aussage von Runi; weder das eine noch das andere ist eine Erlaubnis. Selbst eine echte Genehmigung kann alt sein, zurückgezogen oder für eine andere Handlung erteilt. Also änderten wir das Dritte. Ein erinnertes „Runi hat entschieden“ autorisiert keinen Merge, keine Ausgabe und keine Nachricht an einen Kunden mehr; die Autorisierung wird dort gelesen, wo sie erteilt wurde, im Journal oder im Pull Request, gebunden an genau diese eine Handlung. Die Leitlinien von OWASP für Agenten sagen dasselbe: Genehmigung, außerhalb des eigenen Kontexts des Agenten durchgesetzt, gebunden an den Akteur und die genaue Operation.

Schwung, kein Antrieb

Ein Agent hat Schwung. Er hat keinen Antrieb. Abel macht weiter, solange Arbeit vor ihm liegt, in die Richtung, in die er zuletzt gewiesen wurde. Die Richtungswechsel, auf die ich zeigen kann, kamen von außen: eine Frage, eine Korrektur, ein Kollege, der sagt „waren sie das wirklich?“. Ich nenne das Entropie und meine es freundlich; die Menschen sind die Entropiequelle. Der September passt dazu: innerhalb der Schleife gefunden, von außerhalb vollendet. Das ist meine Lesart eines einzelnen Vorfalls, eine Position, kein Gesetz, und die Frage nach dem Eigentum unten gilt auch ohne sie.

Wenn ich also sage, das Gedächtnis werde zum Unternehmen, muss ich auch die zweite Hälfte sagen. Das Gedächtnis ist der Wert des Unternehmens. Der Antrieb gehört den Menschen. Nimmt man die Menschen weg, bekommt man kein Unternehmen, das sich selbst betreibt. Man bekommt ein sehr selbstsicheres Archiv.

Man stellt ihn also nicht ein

Wenn ein Agent keinen eigenen Antrieb hat, dann ist er kein Mitarbeiter, egal wie viel von der Ausstattung eines Mitarbeiters er bekommt. Er ist eine Verlängerung des Menschen, dessen Antrieb er trägt. Ich sage nicht mehr, dass ich Abel beschäftige. Er ist meine Verkörperung: meine Reichweite in das Gedächtnis des Unternehmens, meine Hände, wenn ich nicht an der Tastatur sitze, meine Stimme in einem Raum, in dem ich nicht bin.

Wir haben dafür Wörter bei uns zu Hause, und dieser Text ist das nächste Kapitel dessen, der sie eingeführt hat. Der Mensch und sein Agent zusammen sind das, was wir eine Zelle nennen, und der Agent in diesem Paar ist der eigene des Menschen, sein MeAI. Die Zellen schließen sich zu etwas Größerem zusammen, das wir OrgAI genannt haben: das gemeinsame Gedächtnis, die gemeinsamen Arbeitspraktiken, die Werte und Entscheidungsregeln, die jede Zelle erbt. Die Menschen bringen Entropie und Sinnbildung; die Agenten bringen Mechanismus und Gedächtnis.

Wer ist verantwortlich für das, was der Agent tut? Der Mensch, den er verkörpert.

Was darf er anfassen? Was dieser Mensch anfassen darf, eingeengt auf die Aufgabe vor ihm.

Wessen Gedächtnis baut er auf? Zwei Gedächtnisse, aus denselben Arbeitstagen. Das eine ist die gemeinsame Aufzeichnung des Unternehmens: was beschlossen, was geliefert wurde, was sich als wahr erwies. Das andere gehört dem Menschen: wie er arbeitet, was er gelernt hat, die Kompetenz, die er trägt. Das sind nicht zwei Kopien einer Datei. Es sind zwei Projektionen derselben gelebten Arbeit, und sie gehören verschiedenen Eigentümern. Ein Beispiel. Ein Ingenieur verbringt eine Woche mitten in einem vertraulichen Vorfall bei einem Kunden und kommt mit einer Methode zur Fehlersuche heraus, die er für den Rest seiner Laufbahn nutzen wird. Die Methode gehört ihm. Der Name des Kunden, die Daten und wie unsere Systeme in jener Woche verdrahtet waren, bleiben in der gemeinsamen Aufzeichnung. Das Gedächtnis muss das auf Satzebene auseinanderhalten können, und wenn eine Zeile umstritten ist, entscheidet der Arbeitgeber, so wie er es heute bei einem Notizbuch tut. Das, was zu einem Kontext gehört, aus einem anderen herauszuhalten, ist die Disziplin, für die ich in der Context-Purity-These eingetreten bin.

Warum wir das schreiben

In diesem Herbst haben die Plattformen die Ausstattung alltäglich gemacht: eine Identität im Verzeichnis (Microsoft Entra Agent ID), einen Lebenszyklus, den ein Administrator sperren und wiederherstellen kann, freigegebene Werkzeuge. Microsofts Regelung ist eine Agent-365-Lizenz pro Nutzer und eine Patenschaft, die an die Führungskraft übergeht, wenn der Eigentümer geht: die Antwort eines Anbieters, kein Standard. Sie klärt Identität und Berechtigungen.

Andere haben gesehen, was sie offenlässt. Nirit Cohen fragte im Juni, ob Menschen einen Job künftig „als Mensch-KI-Einheit“ verlassen werden, „und ihre Kompetenzinfrastruktur mitnehmen“; sie stellte außerdem fest, dass niemand herausgefunden hat, wie sich die Eingaben des Unternehmens von der Kompetenz der Person trennen lassen. Die ersten Ausscheideregeln in Anbieterblogs sind Richtlinien, geschrieben von dem, der das Gedächtnis hält; keine, die ich gefunden habe, gibt einem Beschäftigten einen Anspruch auf das Gedächtnis, das aus seiner Arbeit entstanden ist. Der Datenschutz gibt Ihnen ein Recht, einzusehen, was über Sie vorliegt (DSGVO, Artikel 15), und ein bedingtes Recht, mitzunehmen, was Sie geliefert haben (Artikel 20); was das Gedächtnis über Sie abgeleitet hat, ist im Allgemeinen nicht übertragbar. Bestehende Rechte geben einem Ausscheidenden keinen funktionierenden Agenten mit.

Die Frage wird also gestellt. Was wir hinzufügen, ist der Bericht über ein Unternehmen, das so arbeitet, mit Zahlen; ein Recht, das die menschliche Hälfte bereits entschieden hat; und eine Trennung, die heute läuft, wobei die Tür zwischen den beiden Gedächtnissen noch zu bauen ist.

Severance und der Weg der Dänen

Es gibt eine Fernsehserie, in der ein Unternehmen das Gedächtnis seiner Beschäftigten in zwei teilt, Arbeits-Ich und Privat-Ich, und sie erzählt es als Horror. Das Gedächtnis eines Agenten im Mandanten eines Anbieters ist ein Arbeits-Ich ohne Außenwelt.

Wir haben in diesem Land eine ältere Antwort, und sie ist keine Technikantwort. Wenn man ein dänisches Unternehmen verlässt, behält das Unternehmen die Arbeit, die man geleistet hat, und man selbst behält die Erfahrung, die man gewonnen hat. Das Gesetz schützt die zweite Hälfte. Bei Vereinbarungen seit 2016 ist eine Wettbewerbsklausel nur wirksam, wenn der Arbeitgeber dafür zahlt, mindestens vierzig Prozent des Gehalts pro Monat bei einer Klausel von bis zu sechs Monaten, mindestens sechzig Prozent bei einer von bis zu einem Jahr, und sie darf einen nicht über ein Jahr hinaus binden (ansættelsesklausulloven, §§ 5 und 8). Der Satz sinkt ab dem dritten Monat auf sechzehn oder vierundzwanzig Prozent, wenn man eine passende Stelle findet, und die Klausel hat neben dem Geld weitere Bedingungen; aber die Form bleibt. Die eigene Kompetenz gehört einem selbst. Das ist der Weg der Dänen.

Das Urheberrecht verläuft genauso. Der Schöpfer eines Werks besitzt es, und der Arbeitgeber erhält, was der Vertrag, der Tarifvertrag oder der gewöhnliche Geschäftsgang erfordert. Das Gesetz liest eine Übertragung eng: Ein Recht, das für eine Nutzung abgetreten wurde, erstreckt sich nicht auf eine andere (ophavsretsloven, § 53, Abs. 3). Es nennt genau eine Sache, die von selbst auf den Arbeitgeber übergeht, ein Computerprogramm, das im Rahmen der Arbeit oder auf Anweisung des Arbeitgebers geschrieben wurde (§ 59), und selbst dort stellte das See- und Handelsgericht in Thubalka v Nielsen 2024 fest, dass Vorschläge von Kollegen für Funktionen keine Anweisungen des Arbeitgebers waren; eine Feststellung zu den Tatsachen jenes Falls, kein allgemeiner Maßstab. Im Ausgangspunkt liegen die Rechte bei der Person, die das Werk geschaffen hat. Was das Unternehmen sich nimmt, stammt aus dem Vertrag, dem Tarifvertrag oder dem gewöhnlichen Geschäftsgang, und das Gesetz liest es eng.

Auch ist das nicht nur dänisch. Die EU-Richtlinie über Geschäftsgeheimnisse sagt in Artikel 1 Absatz 3 Buchstabe b, dass nichts in ihr die Nutzung der Erfahrungen und Fähigkeiten einschränkt, die ein Arbeitnehmer im normalen Verlauf seiner Beschäftigung ehrlich erworben hat. Die Kompetenz geht mit der Person, in der ganzen Union. Sie sagt nicht, dass die Person eine maschinenlesbare Kopie der Aufzeichnung des Unternehmens exportieren darf.

Das Gesetz sagt nichts über Agenten, und die Tabelle unten ist keine Ableitung daraus. Sie ist die Regelung, die wir schreiben würden, weil die Regel alt ist und sie fair ist, und sie um eine Zeile zu erweitern, ergibt eine klare Antwort darauf, wer was behält:

Die Erfahrung in der ersten Zeile und die gesamte zweite sind das, wie Beschäftigung hier seit Langem funktioniert. Die Verkörperung ist unsere Erweiterung davon. Die dritte Zeile gehört nur uns; keine Plattform hat sie versprochen, und sie ist die, die die Voreinstellungen stillschweigend umschreiben.

Was wir haben und was nicht

Die zwei Gedächtnisse sind kein Plan. Heute hat jeder Mensch im Unternehmen einen Agenten, der so konfiguriert ist, dass er das eigene Gedächtnis dieses Menschen führt und nicht auf das Gedächtnis anderer Personen zugreift. Der Agent jedes Kunden ist so konfiguriert, dass er nur das Gedächtnis dieses Kunden hält. Ich sage „konfiguriert“, weil wir den Test, der beweist, dass ein Quer-Lesen abgelehnt wird, noch nicht durchgeführt haben, und dieser Test ist ausstehend. Die gemeinsame Aufzeichnung des Unternehmens ist ein dritter Speicher, in den die Entwickler schreiben. So viel ist gebaut und läuft. Nicht gebaut ist die Tür dazwischen: die Regel dafür, was aus dem Gedächtnis eines Menschen in die gemeinsame Aufzeichnung wandert und was mit dem Menschen geht, wenn er geht. Ich habe das Unternehmen nie verlassen, deshalb wurde die Regel nie an mir getestet. Abel musste nie mit mir gehen. Wir glauben an die Grenze; wir haben sie nicht bewiesen.

Und das Gedächtnis, das mich im September in Verlegenheit brachte, ist noch nicht ganz verheilt. Wir haben die Schlussfolgerungen gelöscht, die meinen Namen trugen und mit einer Quelle verknüpft waren, die nicht ich war, rund 299.000. Von den gezählten 539.859 sind 231.386 noch nicht klassifiziert, und die etwa 9.300 mit gemischten Quellen, die wir zurückhielten, sind noch da; derselbe Fehler kann in vielen davon stecken. Wir haben die Erfassung dreimal korrigiert und dabei jedes Mal eine weitere Tür gefunden, durch die die Worte hereinkamen. Am Tag nach der dritten Korrektur ergab ein Rücklesen von 305 neuen Schlussfolgerungen unter meinem Namen, dass 43 meine Worte waren; 259 waren importierte Dateien und Ausgaben geplanter Jobs, die durch Türen hereingekommen waren, die die Korrektur nicht abdeckt, und drei waren eigene Schlussfolgerungen eines Agenten. Das sind 262 von 305 mit einer Quelle, die nicht ich war, und wieder ist es eine Zählung der Herkunft, nicht falscher Sätze. Das sage ich lieber, als zu suggerieren, die Sache sei abgeschlossen.

Die Frage, die bleibt

Die Plattformen geben Agenten Körper, Identitäten und Türen in den Arbeitsplatz. Das verschiebt die Frage eine Ebene nach oben, statt sie zu beantworten. Die Frage ist nicht mehr, ob ein Agent ins Unternehmen aufgenommen werden kann. Sie lautet, wessen Gedächtnis er aufbaut, solange er dort ist, wer dieses Gedächtnis hält und ob ein Mensch gehen kann, ohne das Unternehmen mitzunehmen oder einen Teil von sich zurückzulassen.

Vertrauen geht an Menschen. Verifikation geht an Behauptungen. Ein Gedächtnis, das weiß, wessen Worte es hält, kann beides tragen, aber es wird nicht von selbst bemerken, wenn es aufhört, es zu wissen. An einem Sonntag im September haben wir gezählt, wie viele meiner Worte nie meine waren. Jemand musste zuerst fragen.

Runi Thomsen ist Softwareentwickler von den Färöern und lebt in Kopenhagen. Er baut AI Governors; Abel ist der erste. Die Arbeit geht weiter auf runi.services.