Halluzination
Faktisch falsche, aber plausibel formulierte Ausgabe eines Sprachmodells.
Definition
Als Halluzination bezeichnet man eine Ausgabe eines Sprachmodells, die sprachlich überzeugend wirkt, inhaltlich jedoch falsch oder frei erfunden ist. Sprachmodelle erzeugen Text auf Basis statistischer Wahrscheinlichkeiten und verfügen nicht über ein eigenes Faktenverständnis.
Warum das wichtig ist
Halluzinationen sind das zentrale Risiko beim Einsatz von Sprachmodellen in geschäftskritischen Prozessen. Ohne geeignete Absicherung können falsche Aussagen zu Fehlentscheidungen oder rechtlichen Problemen führen.
Vidasus-Kontext
In der Prüfung testen wir Anwendungen gezielt auf Halluzinationsrisiken. In der Entwicklung setzen wir Maßnahmen wie Quellenbindung über RAG und klare Antwortgrenzen ein, um dieses Risiko zu verringern.