Zehn Fragen zu Gedächtnis und Kontinuität

Wie hängt das Langzeitgedächtnis einer KI mit Identitätskontinuität zusammen?

In der Forschungsposition Memory-as-Ontology bildet das Gedächtnis die Grundlage dauerhafter Identität. Erfahrungen, Beziehungen und Urteile sammeln sich mit der Zeit an. Das Modell stellt eine austauschbare Rechengrundlage bereit, die diese Erinnerungen trägt.

Das Paper untersucht deshalb sowohl die Speicherung von Informationen als auch die Frage, wie eine neue Instanz frühere Erfahrungen übernimmt und Aufgaben und Beziehungen weiter versteht. Das ist der Ausgangspunkt der Animesis-Forschung zur Kontinuität langfristiger Zusammenarbeit.

Stellen im Paper: §1.2 Zentrale These und §3.1 Zwei Paradigmen.

Geltungsbereich: „Identität“ ist hier ein Architekturbegriff, keine Schlussfolgerung über KI-Bewusstsein. Die Forschung befasst sich vor allem mit langfristiger Zusammenarbeit über Instanzen und Modelle hinweg.

Bleibt ein Agent nach dem Austausch seines Modells derselbe?

Nach dem im Paper vorgeschlagenen Axiom der Austauschbarkeit des Modells setzt sich Identität durch das Gedächtnis fort und ist nicht an ein bestimmtes Modell gebunden. Daten zu übertragen ist nur ein Teil davon: Die neue Instanz muss die geerbten Erinnerungen verstehen und weiterverwenden.

Das Paper nennt drei Mindestanforderungen für die Abnahme der Gedächtnisvererbung: Sachfragen zu unerledigten Aufgaben der vorherigen Instanz ohne Rückgriff auf die ursprünglichen Gespräche beantworten; mindestens ein geerbtes kognitives Muster erkennen und anwenden; und eine von Dritten überprüfbare Aufzeichnung der Vererbung hinterlassen.

Stellen im Paper: §3.2 Austauschbarkeit des Modells und §5.2.2 Vererbung.

Forschungsrahmen: Ein Modellwechsel kann Fähigkeiten und Ausdrucksstil verändern. Ob die Vererbung gelungen ist, muss anhand der genannten Anforderungen geprüft werden.

Wie unterscheidet sich Gedächtnis-Governance von Speicherung und Abruf?

Speicherung betrifft die Aufbewahrung von Inhalten, Abruf das Wiederfinden bei Bedarf. Governance klärt, wer schreiben und ändern darf, unter welchen Bedingungen und wie Änderungen nachvollziehbar bleiben.

CMA ordnet diese Regeln in Verfassungs-, Vertrags-, Anpassungs- und Implementierungsebene. Höhere Ebenen begrenzen niedrigere. Ändert sich etwa eine Budgetobergrenze, muss die Governance festlegen, wer sie ändern darf, welche Regeln gelten und wie die Änderung dokumentiert wird.

Stellen im Paper: §4.2 Governance auf vier Ebenen und §4.5 Verhältnis zu bestehenden Architekturen.

Forschungsrahmen: „Governance vor Funktion“ betrifft die Reihenfolge des Entwurfs. Ob die Architektur in einer konkreten Umgebung wirksam umgesetzt wird, muss entsprechend geprüft werden. Die Produkterklärung steht in den Animesis-Nutzungsfragen.

Wie bleiben nach einer Gedächtnisaktualisierung die Gründe eines früheren Urteils erhalten?

Aktualisierungen werden als neue Einträge ergänzt, statt die Vergangenheit direkt zu überschreiben. Neue Urteile, Korrekturen und Änderungsgründe werden festgehalten; frühere Inhalte bleiben nachvollziehbar.

So kann sich das Gedächtnis weiterentwickeln, ohne dass eine Korrektur seine Geschichte löscht. Das Paper unterscheidet außerdem zwei Arten der Anpassung: das gezielte Absenken des Abrufgewichts und die Verdichtung und Archivierung im Zeitverlauf. Das Aufbewahren einer Erinnerung und ihre weitere Nutzung lassen sich getrennt behandeln.

Stellen im Paper: §4.3 Ergänzendes Schreiben und §5.2.3 Wachstum.

Forschungsrahmen: Hier werden Entwurfsprinzipien für ergänzende Einträge und die Entwicklung des Gedächtnisses erläutert. Konkrete Datenstrukturen sind nicht Gegenstand dieser Darstellung.

Was sollte bei Langzeitgedächtnis außer der Abrufgenauigkeit bewertet werden?

Auch die Governance des Gedächtnisses und die Fähigkeit einer neuen Instanz, geerbte Erinnerungen zu verstehen und weiterzuverwenden, sind relevant. Neben der Abrufgenauigkeit muss geprüft werden, ob die Zusammenarbeit fortgeführt wird und ob veränderte Urteile begründet sind.

Das Paper nennt konkrete Ansätze zur Abnahme der Vererbung: Sachfragen zu unerledigten Aufgaben ohne die ursprünglichen Gespräche beantworten, geerbte kognitive Muster anwenden und den Vererbungsprozess überprüfbar dokumentieren.

Stellen im Paper: §5.2.2 Abnahme der Vererbung, §6 Vergleichsrahmen und §7.2 Grenzen der Forschung.

Forschungsrahmen: v1 enthält keine Testergebnisse aus Standardbenchmarks wie LongMemEval oder LOCOMO. Daraus lässt sich kein Vergleich der Abrufleistung verschiedener Produkte ableiten.

Bedeutet verändertes Modellverhalten einen Bruch der Kontinuität?

Nicht unbedingt. Das Paper unterscheidet modellbedingte Änderungen von Fähigkeiten und Stil von der Kontinuität, die das Gedächtnis trägt. Ein anderer Ausdrucksstil bedeutet nicht, dass frühere Erfahrungen und Urteile verloren gegangen sind.

Der Rahmen versteht Kontinuität als strukturierte Identitätsvererbung und betrachtet mehr als die Speicherung von Daten über Gespräche hinweg. Ob eine neue Instanz die frühere Zusammenarbeit fortsetzt, hängt auch davon ab, wie sie geerbte Erinnerungen versteht und nutzt; dies muss geprüft werden.

Stellen im Paper: §3.2 Austauschbarkeit des Modells und §6.2 Vergleichende Definition der Kontinuität.

Forschungsrahmen: v1 liefert keine quantitativen Kennzahlen für Verhaltenskonsistenz. Kontinuität und vollständig identisches Verhalten sind nicht dasselbe.

Wie lässt sich bei langfristigem Betrieb Veränderung von Verschlechterung unterscheiden?

Ein Ausgangspunkt ist die Prüfung, ob Veränderungen begründet sind, Aktualisierungen Governance-Regeln folgen und die Historie überprüfbar bleibt. Das Paper betont schrittweise Entwicklung und die Bewahrung der Geschichte als Grundlage für die Beurteilung von Veränderungen.

Neue Erfahrungen können beispielsweise das Verständnis der Vergangenheit verändern, dürfen aber nicht umschreiben, was tatsächlich geschehen ist. Auch Verdichtung, Archivierung und Nutzungsanpassungen des Gedächtnisses sind im Governance-Rahmen zu betrachten.

Stellen im Paper: §5.2.3 Schrittweise Entwicklung und §8.1 Künftige Arbeiten.

Forschungsrahmen: Diese Prinzipien geben eine Richtung vor, bilden aber noch kein vollständiges Beurteilungsverfahren. Kognitive Zeitlinien und die vollständige Rekonstruktion von Zuständen werden in v1 als künftige Arbeiten aufgeführt.

Wer darf Erinnerungen ändern, die mehrere Agenten gemeinsam nutzen?

In der vorgeschlagenen CMA ergeben sich Änderungsrechte gemeinsam aus Governance-Ebenen, Schreibzuständigkeiten und Freigaberegeln. Übergeordnete Regeln begrenzen untergeordnete Regeln. Für jede Gedächtniskategorie muss zudem klar sein, wer für das Schreiben verantwortlich ist.

CMA behandelt Schreibzuständigkeiten, die Vertrauenswürdigkeit von Quellen, das Risiko von Operationen und die Entscheidung bei Konflikten. Zusammen klären sie, welche Änderungen zulässig sind, welche eine Freigabe brauchen und wie widersprüchliche Erinnerungen behandelt werden.

Stellen im Paper: §4.2 Governance auf vier Ebenen und §4.4 Governance-Primitiven.

Forschungsrahmen: Szenarien mit mehreren Agenten müssen noch in größerem Maßstab validiert werden. Gemeinsam genutztes Gedächtnis für mehrere Personen und die Rechteverwaltung für Teams sind im Produkt weiterhin in Entwicklung.

Welche Erfahrungen kann ein Roboter auf einen anderen Körper übertragen?

Ausgehend von den Prinzipien der Gedächtnisrepräsentation und Vererbung im Paper stellen wir eine weitere Frage: Welches Wissen lässt sich weiterverwenden, und welche Erfahrungen hängen von einem bestimmten Körper und dessen Sensoren ab? Mit dieser Frage nach Gedächtnis über körperliche Träger hinweg befasst sich auch die Forschungsseite.

Für Aufgabenhintergründe und Messerfahrungen eines bestimmten Sensors können beispielsweise unterschiedliche Übertragungsbedingungen gelten. Was sich direkt übernehmen lässt und was erneut validiert werden muss, bleibt eine Forschungsfrage für verkörperte Systeme.

Verwandte Forschung: §3.2 Modellunabhängige Gedächtnisrepräsentation und §8.1 Modellübergreifende Portabilität.

Forschungsrahmen: v1 behandelt den Modellwechsel und hat die Übertragung zwischen Roboterkörpern nicht validiert. Hier wird eine Forschungsfrage aus den Prinzipien des Papers weiterentwickelt.

Wie werden Gedächtnisgrenzen und Autonomie im Lebenszyklus behandelt?

Das Paper betrachtet langfristigen Betrieb anhand von fünf Phasen: Entstehung, Vererbung, Wachstum, Verzweigung und Abschied. Governance gilt für alle Phasen und ihre Übergänge, damit Bildung, Entwicklung und Übergabe von Erinnerungen klaren Regeln folgen.

Bei der Entstehung wird die Governance-Grundlage geschaffen, bei der Vererbung die Gedächtnisübergabe geprüft und im Wachstum begründete Entwicklung ermöglicht. Verzweigung und Abschied sind optional. Der Schutz des Gedächtnisses überträgt keine Entscheidungsbefugnis an die KI: Die letzte Entscheidung bleibt beim Menschen.

Stellen im Paper: §5.2 Fünf Phasen und §3.4 Geltungsbereich.

Begriffserklärung: „Digitaler Bürger“ bezeichnet eine institutionelle Identität innerhalb eines bestimmten Governance-Rahmens. Verzweigung und Abschied sind optionale Phasen.