KI-Halluzination – Definition & Bedeutung
Eine KI-Halluzination ist eine Antwort eines Sprachmodells, die überzeugend klingt, aber falsch oder erfunden ist. Sie entsteht, weil Modelle wahrscheinliche Formulierungen erzeugen, nicht geprüfte Fakten. Quellenbindung und Tests senken das Risiko deutlich.
Was ist eine KI-Halluzination?
Von Halluzination spricht man, wenn ein Sprachmodell Inhalte erzeugt, die nicht stimmen: erfundene Zahlen, nicht existierende Quellen, falsche Produkteigenschaften oder Regeln, die es so nicht gibt. Das Tückische ist, dass solche Antworten sprachlich genauso sicher klingen wie korrekte.
Warum halluzinieren Sprachmodelle?
Ein LLM berechnet, welche Formulierung am wahrscheinlichsten auf eine Eingabe folgt. Es schlägt dabei nicht in einer Datenbank nach, sondern nutzt Muster aus seinen Trainingsdaten. Fehlt ihm eine Information, ist sie veraltet oder mehrdeutig, entsteht trotzdem eine plausible Antwort. Besonders anfällig sind Fragen zu Nischenthemen, konkreten Zahlen, aktuellen Ereignissen und internen Unternehmensinformationen, die das Modell nie gesehen hat.
Wie lassen sich Halluzinationen reduzieren?
- Quellenbindung: Mit RAG antwortet das Modell auf Basis bereitgestellter Dokumente und nennt die Quelle. Findet es nichts Passendes, soll es das sagen.
- Klare Anweisungen: Gute Prompts legen fest, was zu tun ist, wenn Informationen fehlen, siehe Prompt Engineering.
- Guardrails: Prüfregeln erkennen unzulässige oder unbelegte Aussagen, bevor sie ausgegeben werden, siehe Guardrails.
- Evaluation: Ein fester Satz echter Testfragen mit bekannten Antworten zeigt, wie oft ein System danebenliegt, und macht Verbesserungen messbar.
- Menschliche Prüfung: Bei folgenreichen Ausgaben bleibt ein Mensch beteiligt, siehe Human-in-the-Loop.
Was das für Unternehmen bedeutet
Halluzinationen lassen sich nicht vollständig ausschließen, aber so selten und erkennbar machen, dass KI im Alltag verlässlich arbeitet. Entscheidend ist, die Architektur danach auszurichten, wie teuer ein Fehler im jeweiligen Anwendungsfall wäre. Ein Entwurf für eine Marketingmail verträgt mehr Unschärfe als eine Auskunft zu Vertragsbedingungen.
Wie wir Qualität in KI-Anwendungen messen und absichern, beschreiben wir unter KI-Entwicklung.
Verwandte Begriffe & Leistungen
Häufige Fragen
Kann man Halluzinationen komplett verhindern?
Nein, aber stark reduzieren. Quellenbindung, klare Anweisungen, Prüfregeln und Tests machen Fehler selten und erkennbar.
Halluzinieren alle Modelle gleich stark?
Nicht zwingend. Viele neuere Modelle halluzinieren seltener, es gibt aber Gegenbeispiele, etwa Reasoning-Modelle mit höheren Fehlerraten in Faktentests. Die Rate hängt stark von Aufgabe und Datenlage ab. Deshalb lohnt es sich, Modelle mit eigenen Testfällen zu vergleichen.
Woran erkennt man eine Halluzination?
Oft an fehlenden oder nicht auffindbaren Quellen, auffällig genauen Zahlen ohne Beleg oder Aussagen, die internen Dokumenten widersprechen. Systeme mit Quellenangabe machen die Prüfung einfach.
Bereit, gemeinsam Großes zu schaffen?
Lass uns unverbindlich über dein Projekt sprechen.