KI: Entscheidungen anfechtbar machen, nicht nur erklären

Eine KI-gestützte Entscheidung kann verständlich sein und der betroffenen Person dennoch keine wirksame Möglichkeit bieten, einen Einwand prüfen zu lassen. Die konkrete Führungsfrage lautet: Wie lässt sich eine Überprüfung organisieren, die eine Entscheidung tatsächlich ändern kann, statt lediglich Beschwerden entgegenzunehmen?

Was die Literatur belegt

E. Allan Lind, Ruth Kanfer und P. Christopher Earley (1990, Journal of Personality and Social Psychology) zeigen experimentell, dass die Möglichkeit, die eigene Sicht darzulegen, zur wahrgenommenen Verfahrensgerechtigkeit beiträgt, auch wenn sie keine Kontrolle über das Ergebnis ermöglicht. Gehört zu werden, zählt somit nicht nur als Mittel, um ein günstiges Ergebnis zu erreichen. Die Studie untersucht allerdings weder KI noch die Wirksamkeit eines Beschwerdeverfahrens.

Erklärung und Anfechtbarkeit: zwei unterschiedliche Dimensionen

Jason A. Colquitt (2001, Journal of Applied Psychology) liefert Validierungsbefunde für die Unterscheidung zwischen distributiver, prozeduraler, interpersonaler und informationaler Gerechtigkeit. Im untersuchten Messinstrument gehört die Möglichkeit, ein Ergebnis anzufechten, zur prozeduralen Dimension; die Qualität der Erklärungen gehört zu einer anderen Dimension. Für Führungskräfte spricht dies dagegen, eine klare Begründung als Ersatz für eine zugängliche Überprüfung zu betrachten.

Der vorschnelle Schluss

Daraus könnte man ableiten, dass ein zusätzliches Beschwerdeformular genügt, um eine KI-gestützte Entscheidung gerechter zu machen. Diese Arbeiten belegen nicht, dass ein Verfahren, das die wahrgenommene Gerechtigkeit verbessert, tatsächlich mehr Fehler korrigiert. Die Möglichkeit zur Stellungnahme und die Möglichkeit, eine Änderung der Entscheidung zu erwirken, müssen deshalb getrennt betrachtet werden. (unsere Weiterbildungen für Führungskräfte und Mitarbeitende)

Was die Daten nicht versprechen können

Diese Artikel untersuchen Gerechtigkeitsurteile und deren Messung, nicht Beschwerden gegen Entscheidungen, die mit generativer KI getroffen wurden. Sie bestimmen weder eine optimale Antwortfrist noch ein universelles Überprüfungsmodell. In der Praxis bleibt eine geringe Zahl von Beschwerden mehrdeutig: Sie kann auf zufriedenstellende Entscheidungen hinweisen, aber auch auf ein wenig bekanntes oder schwer zugängliches Verfahren.

Eine überprüfbare Praxis in Bern

Im SHR-Programm «Führen im Zeitalter der künstlichen Intelligenz» besteht eine Übung darin, in Bern eine Kategorie KI-gestützter Entscheidungen auszuwählen: die Zuweisung von Anfragen in der Bundesverwaltung, administrative Antworten im öffentlichen Gesundheitswesen, die Bearbeitung von Telekom-Beschwerden oder Konformitätsentscheidungen in der Präzisionsindustrie. Während einer vorab festgelegten Pilotphase würde jede eingegangene Beschwerde bis zu einer begründeten Antwort verfolgt, mit einer benannten, zur Änderung befugten überprüfenden Person und ohne die geltenden Rechtsmittelwege zu ersetzen. Die vorgeschlagene Kennzahl ist der Anteil der Beschwerden, die innerhalb der angekündigten Frist diese dokumentierte Überprüfung erhalten haben, ergänzt um die beobachtete Bearbeitungsdauer und die Zahl geänderter Entscheidungen. Ein Zugangstest mit einem fiktiven Fall würde die Erhebung ergänzen: Ein Verfahren ohne registrierte Beschwerden ist kein Beleg für seine Nutzbarkeit. Weiterführend: entdecken Sie die Führen im Zeitalter der künstlichen Intelligenz-Weiterbildung in Bern im Kanton Bern, oder durchstöbern Sie unsere Weiterbildungen für Führungskräfte und Mitarbeitende in der Schweiz.

In Bildern: Führen im Zeitalter der künstlichen Intelligenz in Bern

• führen im zeitalter der künstlichen intelligenz
• Bern
• forschung
• Weiterbildung bern