Halluzinationen von KI-Agenten: auf Überprüfbarkeit hin gestalten
Ist ein Agent, der selten, aber selbstsicher irrt, gefährlicher als einer, der oft irrt? Die Forschung zum Vertrauen in Automatisierung gibt Hinweise.
Ein anerkanntes Phänomen
Ziwei Ji und Mitautoren (2023, ACM Computing Surveys) fassen Arbeiten zu «Halluzinationen» der Textgenerierung zusammen. Keine Methode beseitigt sie vollständig.
Kalibriertes Vertrauen
John Lee und Katrina See (2004, Human Factors) fordern angemessenes Vertrauen, das den tatsächlichen Fähigkeiten entspricht. Der Rahmen ist konzeptionell.
Was daraus folgt
Ein überzeugender Agent verbirgt Fehler besser als ein ungeschickter. Sprachliche Flüssigkeit ist kein Zuverlässigkeitsmerkmal. (unsere Weiterbildungen für Führungskräfte und Mitarbeitende)
Die Grenze der üblichen Praxis
No-Code-Assistenten zeigen Antworten oft ohne Quellen – eine rasche Prüfung ist unmöglich.
Eine überprüfbare Praxis in Lugano
Vom Agenten zu jeder Tatsachenbehauptung das interne Quelldokument verlangen und zwanzig zufällige Antworten prüfen. Der Anteil korrekt belegter Aussagen misst Zuverlässigkeit besser als Zufriedenheit. Weiterführend: entdecken Sie die KI-Assistenten und Agenten ohne Programmierung erstellen-Weiterbildung in Lugano, oder durchstöbern Sie unsere Weiterbildungen für Führungskräfte und Mitarbeitende in der Schweiz.
In Bildern: KI-Assistenten und Agenten ohne Programmierung erstellen in Lugano
- ki-assistenten und agenten ohne programmierung erstellen
- Lugano
- forschung
- Weiterbildung lugano