Publiziert am 30. September 2026 in AI and Ethics bei Springer Nature. Band 6, Artikel 567. Der Verlagsrecord und die DOI sind für die Zitation massgeblich; der Artikel ist unter CC BY 4.0 frei zugänglich.
Triarchische Korrigierbarkeit: ein rollensepariertes Governance-Design für KI-gestützte Entscheidungen
Triarchic Corrigibility: A Role-Separated Governance Design Pattern for AI-Assisted Decision-Making
Eine prüfbare Governance-Architektur, die private Kontextkontinuität, aktuelle externe Evidenz und verantwortliche menschliche Handlung trennt und abweichende Einschätzungen, Beschwerde- und Abhilfemöglichkeiten, nachvollziehbare Prüfungen sowie Ausstiegsmöglichkeiten sichtbar hält.
Publikations- und Zitationsstatus
Bibliografisch massgeblich sind der Verlagsrecord und die DOI.
Wagner, M. (2026). Triarchic corrigibility: a role-separated governance design pattern for AI-assisted decision-making. AI and Ethics, 6, Artikel 567. https://doi.org/10.1007/s43681-026-01362-2
Alignment ist auch ein Governanceproblem
KI-Alignment wird häufig als Aufgabe beschrieben, ein Modell zuverlässig an menschlichen Absichten oder Werten auszurichten. Diese technische Arbeit ist unverzichtbar. Eingesetzte Systeme erzeugen zusätzlich ein Governanceproblem: Wer kontrolliert Information, privaten Kontext, Korrektur, Eskalation und Handlung?
Triarchische Korrigierbarkeit behandelt diese Kompetenzverteilung. Sie trennt drei Funktionen, die häufig in einem Assistenten oder Anbieter zusammenfallen, und fragt, ob klar festgelegte Vertrauensgrenzen, Widerspruch und Ausstiegsmöglichkeiten den gesamten Entscheidungsprozess korrigierbarer machen.
Drei getrennte Rollen mit asymmetrischer Autorität
Definiert oder bestätigt Zwecke, vermittelt die Offenlegung von Informationen und entscheidet verbindlich über die Freigabe folgenreicher Handlungen. Menschliche Autorität folgt aus Mandat und Verantwortbarkeit, nicht aus Unfehlbarkeit. Sie bleibt anfechtbar und durch Recht, Institutionen und Betroffenenrechte begrenzt.
Erhält zweckbegrenzte private Kontextkontinuität, frühere Verpflichtungen und Unsicherheitshistorie. In der stärksten Form besitzt sie keinen externen Informationsabruf, keine Werkzeuge für den Zugriff auf entfernte Systeme, keine Synchronisation und keinen direkten technischen Kommunikationskanal zur externen KI-Schicht. Lokal bedeutet nicht automatisch sicher, privat oder unabhängig.
Liefert aktuelle öffentliche Evidenz, Quellen, Vergleiche und alternative Rahmungen. Sie erhält nur eine menschlich autorisierte, zweckbegrenzte und minimierte Anfrage. Sie erhält keine unbegrenzte private Erinnerung, bestimmt nicht die finale Handlung und schreibt nicht in die lokale Vertrauensdomäne.
Die Rollen teilen epistemischen Einfluss, aber keine symmetrische Autorität. Folgenreiche Handlung bleibt menschlich autorisiert, während auch menschliche Autorität anfechtbar und institutionell begrenzt bleibt.
Architektur und Vertrauensgrenzen
Privater, zweckbegrenzter Kontext · keine externen Werkzeuge · kein autonomer Aussenkontakt
Prüft und minimiert Offenlegung · vermittelt Evidenz · behält den Handlungsentscheid · bleibt selbst anfechtbar
Aktuelle öffentliche Evidenz · Quellen · Gegenbelege · alternative Rahmungen
Warum drei?
Drei ist keine Naturkonstante und keine Behauptung, dass jedes Trio automatisch sicherer sei. Es ist ein bedingtes Minimum unter einem bestimmten Bedrohungsmodell: verantwortliche menschliche Freigabe, isolierte private Kontinuität und aktuelle externe Evidenz sollen getrennt bleiben. Wenn zwei Rollen dieselben Datenschutz-, Korrektur-, Kompetenz- und Verantwortungsziele mit weniger Risiko erreichen oder eine zusätzliche menschliche oder institutionelle Rolle nötig ist, muss das Design vereinfacht oder erweitert werden.
So funktioniert der Deliberationspfad
- Der Mensch benennt Entscheidung, Zweck, Tragweite und Offenlegungsgrenzen.
- Die lokale KI ruft relevanten Privatkontext ab und schlägt eine minimierte externe Frage vor.
- Der Mensch prüft, redigiert und autorisiert die Anfrage.
- Die externe KI liefert Quellen, Unsicherheit, Gegenbelege und alternative Rahmungen.
- Der Mensch prüft die Provenienz und überträgt bei Bedarf nur eine knappe attribuierte Aussage.
- Die lokale KI vergleicht diese Aussage mit Privatkontext und früheren Verpflichtungen.
- Erhebliche Meinungsverschiedenheiten führen zu einer Pause, zusätzlichen Belegen, fachlicher Beratung oder zur Klärung durch eine zuständige Stelle.
- Der Mensch oder die verantwortliche Institution autorisiert, ändert, verschiebt oder verwirft die Handlung.
- Eine verhältnismässige Dokumentation hält entscheidungsrelevante Quellen, Warnungen, abweichende Einschätzungen und das Ergebnis fest.
Was das Paper beiträgt
Was dieses Paper nicht behauptet
- Es löst weder formale technische Corrigibility noch die Kontrolle fortgeschrittener Agenten.
- Es zeigt nicht, dass eine Triarchie einfachere Alternativen übertrifft.
- Es macht lokale KI nicht per Definition sicher oder privat.
- Es verwandelt einen menschlichen Bestätigungsklick nicht in „meaningful control“ (wirksame menschliche Kontrolle).
- Es schafft keine rechtliche Autorität, demokratische Legitimität, Beteiligungs- und Beschwerdeberechtigung oder Abhilfe.
- Es belegt kein gegenwärtiges KI-Bewusstsein, keine Persönlichkeit, Rechte oder Repräsentation.
- Es validiert kein kommerzielles Produkt und keine Implementierung des Nexus Evolutionär Symbiotischer Triarchie.
- Es ist nicht für autonome Waffen, harte Echtzeitsteuerung oder vollständig autonome Systeme mit hohen Auswirkungen bestimmt.
Entscheidungsrechte und externe Grenzen
| Funktion | Mensch / menschlicher Entscheidungskörper | Lokale KI | Externe KI |
|---|---|---|---|
| Zweck | definiert oder bestätigt; identifiziert Pflichten und Betroffene | erinnert an Verpflichtungen und Konflikte | bietet Alternativen; setzt keinen finalen Zweck |
| Privatkontext | kontrolliert Zugriff und Offenlegung | speichert autorisierten lokalen Kontext | erhält nur eine minimierte Anfrage |
| Aktuelle Evidenz | definiert die Frage und beurteilt Relevanz | ruft nicht extern ab | liefert öffentliche Quellen und Unsicherheit |
| Widerspruch | prüft oder dokumentiert ein begründetes Abweichen von einer Empfehlung oder einem Einwand | darf warnen, sich enthalten oder Unterstützung verweigern | darf Evidenz herausfordern, sich enthalten oder Unterstützung verweigern |
| Eskalation | verzögert, ergänzt Expertise, ändert oder beendet | darf ein vorab vereinbartes Signal auslösen | darf ein vorab vereinbartes Signal auslösen |
| Folgenreiche Handlung | alleinige interne Freigabebefugnis | keine autonome externe Ausführung | keine autonome externe Ausführung |
| Verantwortung | bleibt nach anwendbarem Recht sichtbar | übernimmt keine rechtliche Verantwortung | Pflichten von Anbieter und Entwicklung bleiben prüfbar |
Interne Einigkeit erzeugt keine Autorität über betroffene Menschen. Recht, Fachpflichten, demokratische Institutionen und wirksame Beschwerde- und Abhilfemöglichkeiten bilden weiterhin äussere Grenzen der Triarchie.
Diese Umsetzung entspricht nicht dem Triarchiekonzept, wenn …
- eine einzige Instanz alle Rollen, sämtliche Aufzeichnungen und die Ausführung von Handlungen kontrolliert;
- die lokale Schicht einen unerklärten externen Kanal oder routinemässigen Roh-Autoimport besitzt;
- der Mensch nicht verweigern, pausieren, ersetzen oder aussteigen kann;
- abweichende Einschätzungen verborgen oder ein Konsens erzwungen wird;
- materielle Warnungen oder Quellen nicht inspizierbar sind;
- folgenreiche Handlungen ohne die Freigabe eines ausdrücklich benannten verantwortlichen Menschen erfolgen;
- die lokale Rolle emotional oder technisch unverzichtbar wird;
- Betroffene keine wirksamen Beschwerde- und Abhilfemöglichkeiten haben;
- Prüfungen und Erklärungen nur den Anschein einer wirksamen Abhilfe erwecken;
- Recht oder fundamentale Rechte die Anwendung ausschliessen.
Auch die Erfüllung dieser Prozessbedingungen beweist noch keine nützlichen Ergebnisse.
Vergleichsansätze und offene Tests
| Vergleichsansatz | Möglicher Vorteil gegenüber der Triarchie | Offener Test |
|---|---|---|
| Starker unsicherheitsbewusster Assistent plus Mensch | einfacher, günstiger, weniger Persuasions- und Angriffsfläche | Fügt die Rollentrennung messbaren Wert hinzu? |
| Lokales Modell plus kuratierter Abruf | privat und aktuell ohne zweite Dialogrolle | Ist eine getrennte externe Vertrauensdomäne nötig? |
| Zwei Menschen plus ein Modell | stärkere legitimierte menschliche Gegenprüfung | Wann ist eine zweite KI einer zweiten Person vorzuziehen? |
| Multi-Agent-Debatte | skalierbare Perspektivenerzeugung | Verringern Rollenrechte Kollusion und korrelierte Fehler? |
| Unabhängige Aufsicht, Ombudsstelle oder Gericht | tatsächlich anerkannte Beteiligungs- und Beschwerderechte, Legitimität und Abhilfe | Kann die interne Triarchie externe Beschwerde- und Abhilfeverfahren nur vorbereiten, aber niemals ersetzen? |
Welche Evidenz würde die zusätzliche Komplexität rechtfertigen?
Woran muss sich die Triarchie messen lassen?
Entscheidend ist der Vergleich mit einfacheren KI-Systemen: Erkennt die Triarchie Fehler besser, macht sie unterschiedliche Einschätzungen sichtbar und hilft sie, Schäden zu vermeiden? Unabhängige, wiederholte Studien müssen prüfen, ob diese Vorteile den zusätzlichen Zeit-, Kosten- und Denkaufwand rechtfertigen.
Bleibt der Mehrwert aus oder verstärkt die Zusammenarbeit gemeinsame Fehler, Überzeugungsdruck oder unklare Verantwortlichkeiten, muss der Ansatz verändert oder aufgegeben werden. Die Trennung zwischen interner und externer KI und ein selbstbestimmter Ausstieg müssen gewährleistet bleiben. Betreffen Entscheidungen Rechte anderer Menschen, braucht es unabhängige Beschwerde- und Abhilfemöglichkeiten.
Häufige kritische Fragen
1. Was ist neu?
Lokale Modelle, Cloudmodelle, menschliche Beteiligung an KI-Entscheidungen und Debatten zwischen mehreren KI-Agenten sind einzeln nicht neu. Der vorgeschlagene Beitrag ist ihre spezifische Governanceverbindung: getrennte private und aktuelle Evidenzrollen, asymmetrische menschliche Handlungsautorität, sichtbar erhaltene abweichende Einschätzungen, wechselseitige Korrektur, Beschwerde- und Abhilfemöglichkeiten, Ausstiegsmöglichkeiten und explizite Bedingungen, unter denen die Triarchie nicht mehr vorliegt. Ob diese Kombination besser funktioniert, bleibt empirisch offen.
2. Warum genau drei?
Drei ist ein konditionales Designminimum, kein Naturgesetz. Der Vorschlag trennt verantwortliche menschliche Autorisierung, isolierte private Kontinuität und aktuelle externe Evidenz. Ablationsstudien müssen zeigen, wann zwei genügen oder zusätzliche Menschen und Institutionen nötig sind.
3. Ist das nur Human-in-the-loop?
Ein Bestätigungsbutton ist genau die zeremonielle Form, die das Paper ablehnt. Die zusätzliche Aussage betrifft Daten- und Rollenrechte vor der Entscheidung, begründeten Widerspruch, den Erhalt abweichender Einschätzungen, die Klärung durch eine zuständige Stelle sowie unabhängige Beschwerde-, Abhilfe- und Ausstiegsmöglichkeiten. Ein Bestätigungsklick allein erfüllt noch nicht die Anforderungen einer Triarchie.
4. Wo sind die Daten?
Dieser Artikel enthält keine Wirksamkeitsdaten. Er ist ein konzeptueller Beitrag. Der nächste wissenschaftliche Wert muss aus preregistrierten Vergleichen, unabhängigen Sicherheits- und Governanceprüfungen sowie partizipativen Feldstudien entstehen. Für Finanzierungs- oder Kooperationsangebote nutze bitte die Kontaktseite.
5. Warum bleibt der Mensch final?
Finale interne Autorisierung folgt unter heutigen rechtlichen und institutionellen Bedingungen aus Mandat und Verantwortbarkeit, nicht aus menschlicher Unfehlbarkeit. Beide KI-Rollen dürfen den Menschen herausfordern; Fachpflichten, Organisationen, Gerichte, Regulierung und Betroffenenrechte bleiben äussere Grenzen. Fehlende Kompetenz oder die Vereinnahmung der verantwortlichen Person können die Triarchie scheitern lassen. Diese Risiken sind durch das Konzept allein nicht gelöst.
6. Bedeutet lokal automatisch sicher?
Nein. Lokaler Betrieb kann bestimmte direkte Datenwege zu Cloudanbietern verringern. Risiken durch Endgeräte, Aktualisierungen, Softwarelieferketten, Personen mit internem Zugang, Sicherungskopien, Datenimporte und die menschliche Weitergabe von Informationen bleiben jedoch bestehen. Jede Implementierung braucht ein prüfbares Bedrohungsmodell und unabhängige Angriffstests.
7. Löst es Prompt Injection?
Nein. Strikte Isolation kann direkte automatisierte Pfade in die lokale Rolle entfernen, aber Inhalte, Menschen, Tools, Updates, Lieferketten und die externe Rolle bleiben Angriffsflächen. Absolute Prompt-Injection- oder Air-Gap-Claims wären falsch.
8. Sind die KI-Rollen unabhängig?
Nicht automatisch. Verschiedene Sessions oder Providernamen beweisen keine Unabhängigkeit. Relevant sind Unterschiede bei Datenzugang, Administration, Modellen, Trainingslinien, Infrastruktur, Tools, Anreizen, Quellen und Updatepfaden. Unabhängigkeit muss gemessen werden.
9. Erhöhen mehr Modelle das Risiko?
Ja. Mehr Modelle können Überzeugungsdruck, Angriffsfläche, Widersprüche, Kosten und falsches Vertrauen erhöhen. Das Design ist nur sinnvoll, wenn der zusätzliche Nutzen bei Fehlererkennung, Datenschutz oder Beschwerde und Abhilfe diese Nachteile gegenüber einem leistungsfähigen einfacheren Vergleichssystem aufwiegt.
10. Wer trägt Verantwortung?
Epistemischer Einfluss kann verteilt sein; rechtliche und moralische Verantwortung darf nicht verschwinden. Implementierungen brauchen eine Verantwortlichkeitsübersicht: Wer entwickelte, beschaffte, betrieb, empfahl, autorisierte, überwachte und kann Abhilfe leisten? „Die KI sagte es“ entlastet niemanden.
11. Warum KI-Bewusstsein und Rechte erwähnen?
Nicht als gegenwärtigen Fakt. Das Paper hält Governance lediglich revidierbar, falls künftig überzeugende Evidenz moralisch relevanter Eigenschaften entsteht. Die Triarchie diagnostiziert kein Bewusstsein und verleiht keine Rechte oder politische Repräsentation, könnte sie aber mit vorbereiten.
12. Ist Mutualismus anthropomorph?
Als gegenwärtige empirische Beschreibung wäre es überzogen. Im Paper ist Mutualismus eine begrenzte Hypothese über wechselseitigen Nutzen und Korrektur, verbunden mit Risiken wie Kollusion, Lock-in und Abhängigkeit. Die biologische Analogie ist heuristisch, nicht wörtlich.
13. Warum ist der Prototyp source-closed?
Ein nicht öffentlich zugänglicher Quellcode kann legitimen Sicherheitsinteressen oder dem Schutz geistigen Eigentums dienen, begrenzt aber die unabhängige Prüfung. Der Prototyp kann deshalb im aktuellen Entwicklungszustand nicht als wissenschaftlicher Beleg für das Paper dienen.
Deutsche Zusammenfassung des veröffentlichten Papers
KI-Alignment wird häufig als Problem beschrieben, ein Modell zuverlässig an menschlichen Absichten oder Werten auszurichten. Diese Arbeit ist unverzichtbar, doch eingesetzte Systeme werfen zusätzlich eine Governancefrage auf: Wer kontrolliert Information, privaten Kontext, Korrektur, Eskalation und Handlung? Der konzeptuelle Artikel schlägt triarchische Korrigierbarkeit als rollensepariertes Governance-Design für KI-gestützte Entscheidungen vor. Das Muster verbindet einen verkörperten und verantwortbaren Menschen beziehungsweise einen verantwortlichen menschlichen Entscheidungskörper, eine strikt isolierte lokale KI-Schicht für private Kontextkontinuität und eine extern verbundene KI-Schicht für aktuelle Evidenz aus der öffentlichen Welt. Die finale Autorisierung folgenreicher Handlungen bleibt menschlich, während epistemische und prozedurale Kompetenzen so verteilt werden, dass keine Komponente Rahmung, Erinnerung, Verfahren und Ausführung allein kontrollieren kann. Der Artikel spezifiziert normative Grundlagen, die Trennung der Vertrauensbereiche, Entscheidungsrechte, menschlich vermittelte Datenflüsse, wechselseitigen Widerspruch, Eskalation, Beschwerde- und Abhilfemöglichkeiten für Betroffene, verhältnismässige Prüfungen und Ausstiegsmöglichkeiten. Er vergleicht die Hypothese mit benachbarten Architekturen und nennt Prüfkriterien und Bedingungen für eine Zurückweisung des Ansatzes. Eine evolutionär-symbiotische Hypothese fragt zusätzlich, ob begrenzte wiederholte Abhängigkeit von komplementären Rollen Korrektur und kooperative Kontinuität gegenüber einseitiger Kontrolle begünstigen kann. Die Fähigkeit der Architektur, korrelierte Fehler zu reduzieren, Privatsphäre und menschliches Urteil zu erhalten und Korrektur unter verbleibender Unsicherheit zu tragen, verlangt empirische Prüfung.
Dies ist eine deutsche Zusammenfassung. Der englische Originalabstract und der vollständige Open-Access-Artikel sind beim Verlag zugänglich.
Autor und wissenschaftliche Einordnung
Dr. Markus C. Wagner promovierte an der Universität Zürich in Molekularbiologie und wirkte an peer-reviewter Forschung in Pflanzenmolekularbiologie, Genomik und Phytopathologie mit. Seine heutige Arbeit verbindet naturwissenschaftliches Systemdenken mit fortlaufender interdisziplinärer Arbeit und persönlicher Weiterbildung in KI- und IT-Sicherheit, Governance, Philosophie und Politik.
Kritik, fehlende Literatur und Testvorschläge
Gesucht sind keine pauschalen Endorsements, sondern prüfbare Gegenargumente: eine möglicherweise fatale Annahme, ein stärkerer Vergleichsansatz, fehlende Literatur, ein Replikationsdesign oder eine Betroffenenperspektive. Bitte sende keine vertraulichen Exploitdetails oder unnötigen personenbezogenen Daten über normale Kontaktwege.