Halluzination.

Sprachmodelle erzeugen Text, indem sie wahrscheinliche Fortsetzungen berechnen. Fehlt ihnen verlässliches Wissen, formulieren sie trotzdem eine flüssige Antwort. Die Forschenden von OpenAI und Georgia Tech zeigen in „Why Language Models Hallucinate“, dass gängige Benchmarks ein „Ich weiß es nicht“ wie eine falsche Antwort werten – und Modelle damit zum Raten erziehen.

Warum ist das wichtig?

Für Unternehmen ist eine Halluzination über die eigene Marke ein konkretes Geschäftsrisiko: falsche Preise, nicht vorhandene Produkte, ein veralteter Standort oder eine Verwechslung mit einem Namensvetter. Interessenten bilden sich ein Urteil, bevor sie Ihre Website überhaupt besuchen.

Was das Risiko senkt:

1. Eindeutige Fakten auf der eigenen Website: Leistungen, Standorte, Zertifikate und Preisrahmen klar und maschinenlesbar.
2. Konsistenz über alle Quellen: Branchenverzeichnisse, Profile und Pressetexte mit denselben Angaben.
3. Abrufbarkeit: Such-Crawler zulassen, damit Systeme mit Grounding aktuelle Informationen finden. Abrufgestützte Verfahren wie RAG wurden genau dafür entwickelt, Antworten an Quellen zu binden.
4. Regelmäßige Kontrolle: Prüfen Sie im Rahmen Ihres Prompt-Sets auch, ob die Aussagen über Ihr Unternehmen stimmen.

Beispiel

Ein hypothetischer Anbieter von Schweißrobotern bemerkt, dass ein KI-Assistent ihm eine Niederlassung in Österreich zuschreibt, die vor Jahren geschlossen wurde. Ursache sind alte Pressemitteilungen und ein nicht gepflegter Verzeichniseintrag. Das Unternehmen aktualisiert die Standortseite mit einem klaren Hinweis, ergänzt Organization-Markup mit aktuellen Adressen und korrigiert die Verzeichnisse. Antworten mit Websuche zeigen die korrekten Angaben bald; Antworten aus reinem Modellwissen können länger falsch bleiben.

Abgrenzung

Nicht jede falsche Antwort ist eine Halluzination im engen Sinn. Gibt eine KI eine veraltete Quelle korrekt wieder, liegt das Problem in der Quelle, nicht im Modell. Die Gegenmaßnahme ist dann die Korrektur der Quelle.