KI-Assistenten: Fördert eine Korrekturmöglichkeit die Nutzung?

Im Programm «Eigene KI-Assistenten und -Agenten ohne Programmieren erstellen» von SHR — Swiss Human Resources geht es bei der Gestaltung auch um den Einfluss der Nutzenden auf das Endergebnis. Die konkrete Führungsfrage lautet: Hilft die Möglichkeit, einen Vorschlag anzupassen, die Nutzung eines Assistenten nach einem sichtbaren Fehler aufrechtzuerhalten?

Was die Forschung belegt

Berkeley Dietvorst, Joseph Simmons und Cade Massey (2015, Journal of Experimental Psychology: General) zeigen in Prognoseexperimenten, dass Teilnehmende einen Algorithmus nach beobachteten Fehlern meiden können, selbst wenn er weiterhin bessere Prognosen liefert als ein Mensch. Die Beobachtung seiner Fehler beeinträchtigt das Vertrauen stärker als die Beobachtung menschlicher Fehler. Die vergleichende Leistung allein erklärt somit nicht, ob ein Werkzeug genutzt wird.

Korrekturspielraum als Mechanismus

Berkeley Dietvorst, Joseph Simmons und Cade Massey (2018, Management Science) zeigen, dass die Bereitschaft zur Nutzung steigt, wenn Teilnehmende algorithmische Prognosen auch nur begrenzt verändern dürfen. Ihre Ergebnisse legen nahe, dass ein gewisser Einfluss auf das Ergebnis wichtiger sein kann als uneingeschränkte Änderungsfreiheit. Bei einem No-Code-Assistenten ist deshalb zwischen einem bearbeitbaren Vorschlag und einem Ergebnis zu unterscheiden, das nur angenommen oder abgelehnt werden kann.

Der voreilige Schluss

Daraus könnte man ableiten, sämtliche Ausgaben frei bearbeitbar zu machen. Die Studien belegen jedoch weder, dass jede menschliche Korrektur das Ergebnis verbessert, noch, dass eine stärkere Nutzung bessere Entscheidungen garantiert. Korrekturspielraum ist eine zu prüfende Gestaltungshypothese, kein Qualitätsnachweis. (unsere Weiterbildungen für Führungskräfte und Mitarbeitende)

Wo die Übertragbarkeit der Daten endet

Diese Experimente untersuchen algorithmische Prognosen, nicht generative Assistenten innerhalb betrieblicher Prozesse. Einen Prognosewert anzupassen ist nicht dasselbe, wie eine Dossierzusammenfassung oder eine Kundenantwort umzuschreiben. Gerade in Finanzdienstleistungen und Versicherungen begründet die technische Möglichkeit, einen Text zu ändern, noch keine Befugnis, ihn freizugeben.

Eine überprüfbare Praxis in Zürich

In einem Zürcher Team aus Finanzdienstleistungen, Versicherungen, Tech oder einer europäischen Konzernzentrale kann eine Programmübung zwei Oberflächen desselben Assistenten für interne Kurzberichte anhand fiktiver oder anonymisierter Dossiers vergleichen. Nach der Präsentation desselben Vorschlags mit einem gekennzeichneten Fehler wird zufällig entweder eine Oberfläche zum blossen Annehmen oder Ablehnen oder eine Oberfläche mit zusätzlicher Korrekturmöglichkeit zugewiesen. Anschliessend wird die freiwillige Wiederverwendung beim nächsten Dossier gemessen und die Qualität der fertigen Berichte anhand eines gemeinsamen Rasters blind beurteilt. Eine höhere Wiederverwendungsrate ohne Qualitätsverlust würde den Nutzen der Korrekturmöglichkeit vor Ort stützen, ohne ihn für sämtliche Berufsfelder zu belegen. Weiterführend: entdecken Sie die KI-Assistenten und Agenten ohne Programmierung erstellen-Weiterbildung in Zürich, oder durchstöbern Sie unsere Weiterbildungen für Führungskräfte und Mitarbeitende in der Schweiz.

In Bildern: KI-Assistenten und Agenten ohne Programmierung erstellen in Zürich

• ki-assistenten und agenten ohne programmierung erstellen
• Zürich
• forschung
• Weiterbildung zürich