IA on the job: Informiert ein KI-Hinweis die Empfänger ausreichend?

Eine Behörde, eine Gesundheitsorganisation oder ein Unternehmen kann Mitteilungen heute mit einem Hinweis auf KI-Unterstützung versehen. Die konkrete Führungsfrage lautet: Hilft dieser Hinweis den Empfängern, die Tragweite der Mitteilung zu verstehen, oder müssen sie selbst erschliessen, was erstellt und geprüft wurde?

Was die Forschung belegt

George Akerlof (1970, The Quarterly Journal of Economics) formalisiert ein Problem asymmetrischer Information: Ist Qualität schwer zu beobachten, kann der Austausch beeinträchtigt werden, auch bei qualitativ hochwertigen Angeboten. Seine Analyse betrifft weder KI noch Behördenkommunikation, zeigt aber, dass verfügbare Qualitätsinformationen die Funktionsweise eines Marktes verändern können. Analog dazu bedeutet das Wissen um die Entstehung einer Mitteilung nicht unbedingt, dass deren Verlässlichkeit bekannt ist.

Ein Hinweis ist nicht zwingend ein aussagekräftiges Signal

Michael Spence (1973, The Quarterly Journal of Economics) zeigt anhand eines Arbeitsmarktmodells, wie ein beobachtbares Signal Informationen über eine nicht direkt beobachtbare Eigenschaft vermitteln kann. Der Mechanismus hängt unter anderem von den Signalkosten für unterschiedliche Akteurstypen ab: Allein die Sichtbarkeit einer Angabe garantiert noch keinen Informationswert. Vorsichtig auf KI übertragen, legt diese Unterscheidung nahe, den Hinweis «mit KI verfasst» von Angaben zu den tatsächlich vorgenommenen Prüfungen zu trennen.

Der voreilige Schluss

Daraus könnte man ableiten, ein KI-Hinweis sei nutzlos, solange er keine Qualität garantiere; damit würde jedoch Transparenz über das Verfahren mit einer Zusicherung über das Ergebnis verwechselt. Ein solcher Hinweis kann einem berechtigten Informationsbedürfnis entsprechen, ohne zu belegen, dass der Inhalt validiert wurde. Es geht deshalb nicht um die Wahl zwischen vollständiger Offenlegung und Schweigen, sondern darum, was Empfänger aus dem Hinweis vernünftigerweise ableiten können. (unsere Weiterbildungen für Führungskräfte und Mitarbeitende)

Was diese Arbeiten nicht belegen

Beide Artikel sind theoretische Beiträge zur Ökonomie, keine Experimente zur Wahrnehmung KI-gestützter Mitteilungen. Sie erlauben weder eine Vorhersage darüber, wie sich ein Hinweis auf das Vertrauen auswirkt, noch darüber, welche Formulierung für eine bestimmte Zielgruppe am verständlichsten ist. Auch rechtliche Transparenzpflichten klären sie nicht; diese müssen je nach Kontext gesondert geprüft werden.

Eine überprüfbare Praxis in Bern

Im Rahmen des SHR-Programms «IA on the job» könnte eine Übung in Bern zwei Versionen einer fiktiven Mitteilung vergleichen: eine mit einem blossen KI-Hinweis und eine weitere, die zusätzlich die Rolle der KI, die tatsächlich durchgeführte menschliche Prüfung und die zuständige Kontaktstelle benennt. Die Fälle würden auf die Bundesverwaltung, die öffentliche Gesundheit, die Telekommunikation und die Präzisionsindustrie zugeschnitten, ohne Personendaten oder vertrauliche Informationen. Jede teilnehmende Person erhielte nach dem Zufallsprinzip nur eine Version und würde angeben, was automatisiert, was geprüft wurde und an wen sie sich für eine Klärung wenden kann. Gemessen würde der Anteil korrekter Antworten zu diesen drei Punkten, verglichen zwischen den Versionen innerhalb des jeweiligen Kontexts: ein Verständnistest statt einer blossen Vertrauensbewertung. Weiterführend: entdecken Sie die KI im Arbeitsalltag-Weiterbildung in Bern, oder durchstöbern Sie unsere Weiterbildungen für Führungskräfte und Mitarbeitende in der Schweiz.

In Bildern: KI im Arbeitsalltag in Bern

• ki im arbeitsalltag
• Bern
• forschung
• Weiterbildung bern