KI-Einführung: Muss jede Nutzung nachvollziehbar sein?

KI-Werkzeuge können detaillierte Aufzeichnungen über Eingaben, Korrekturen und Ergebnisse hinterlassen. Die konkrete Führungsfrage lautet: Welche Aufzeichnungen müssen geprüft werden, um Risiken zu beherrschen, ohne jeden Versuch zu einem Nachweis regelkonformen Verhaltens zu machen?

Was die Literatur belegt

Ethan Bernstein (2012, Administrative Science Quarterly) untersucht in einem industriellen Umfeld das Paradox einer Transparenz, die das angestrebte Lernen und die Leistung beeinträchtigen kann. Seine Feldstudie zeigt, dass ein begrenzter Schutz vor Beobachtung das Experimentieren und die Verbesserung der Arbeit erleichtern kann. Dieses Ergebnis belegt nicht, dass KI der Kontrolle entzogen werden sollte; es stellt die Gleichsetzung von mehr Sichtbarkeit mit besserer Kontrolle infrage.

Rechenschaftspflicht wirkt nicht immer gleich

Jennifer Lerner und Philip Tetlock (1999, Psychological Bulletin) zeigen in ihrer Literaturübersicht, dass die Wirkungen von Rechenschaftspflicht unter anderem davon abhängen, wann sie angekündigt wird und wem gegenüber eine Begründung abzugeben ist. Je nach Bedingungen kann sie eine vertiefte Prüfung oder die Anpassung an eine erwartete Position fördern. Auf KI übertragen legt dieser Mechanismus nahe: Mitarbeitende um eine Erklärung ihrer Prüfkriterien zu bitten, ist nicht dasselbe, wie jede ihrer Eingaben durch die Führungskraft prüfen zu lassen.

Der vorschnelle Schluss

Daraus könnte man ableiten, dass jede Form der Nachvollziehbarkeit reduziert werden sollte, um die Einführung zu fördern. Das würde einen geschützten Experimentierraum mit fehlender Verantwortung für ein verwendetes Ergebnis verwechseln. Entscheidend ist der Zweck der Kontrolle: Eine sensible Entscheidung zu rekonstruieren, ist nicht dasselbe, wie den Arbeitsprozess aller Mitarbeitenden fortlaufend zu beobachten. (unsere Weiterbildungen für Führungskräfte und Mitarbeitende)

Was diese Befunde nicht klären

Diese Arbeiten untersuchen nicht die heutige Einführung generativer KI in Unternehmen in Lugano. Sie bestimmen weder eine Aufbewahrungsdauer für Eingaben noch eine allgemeingültige Liste der zu erfassenden Aufzeichnungen. Geltende Verpflichtungen, die Vertraulichkeit der Daten und die Risiken der jeweiligen Nutzung müssen deshalb gesondert geprüft werden; ein Aktivitätsdashboard beantwortet diese Fragen nicht.

Eine überprüfbare Praxis in Lugano

Im Rahmen des SHR-Programms « Conduire l’adoption de l’IA dans son équipe » könnte ein Team in Lugano während zweier Wochen alle Anfragen von Führungskräften zum Zugriff auf seine KI-Nutzungsaufzeichnungen prüfen, ohne vorgeschriebene Protokolle zu verändern. In einer Bank, einem Modeunternehmen, einer Handelsfirma oder einem italienischsprachigen Familien-KMU würde jede Anfrage auf Italienisch dokumentiert: mit ihrem Zweck, der zu unterstützenden Entscheidung und den tatsächlich benötigten Daten. Gemessen würde der Anteil der Anfragen, die zu einer dokumentierten Korrektur, Validierung oder Massnahme zur Risikokontrolle führen, statt lediglich Aktivität festzustellen. Diese Kennzahl würde die Wirksamkeit der Kontrolle nicht beweisen, böte aber eine dokumentierte Grundlage, um Zugriffe mit weiterhin unklarem Zweck zu besprechen. Weiterführend: entdecken Sie die KI-Einführung im Team gestalten-Weiterbildung in Lugano im Kanton Tessin, oder durchstöbern Sie unsere Weiterbildungen für Führungskräfte und Mitarbeitende in der Schweiz.

In Bildern: KI-Einführung im Team gestalten in Lugano

• ki-einführung im team gestalten
• Lugano
• forschung
• Weiterbildung lugano